التوقع متعدد الحُجُم لتمييز النص في المشهد

تمثّل اعتراف النص في المشهد (STR) موضوعًا بحثيًا نشطًا في مجال الرؤية الحاسوبية على مدار سنوات عديدة. ولحل هذه المشكلة الصعبة، تم اقتراح عدد كبير من الأساليب المبتكرة بالتتابع، وبرز مؤخرًا اتجاه ملحوظ في دمج المعرفة اللغوية داخل نماذج STR. في هذا العمل، نستمدّ أولًا إلهامنا من التقدم الأخير المحرز في نماذج التحويل البصري (ViT) لبناء نموذج بصري لاعتراف النص في المشهد بسيط من حيث المفهوم ولكنه قوي، مبني على ViT، ويتفوق على النماذج الرائدة السابقة في مجال اعتراف النص في المشهد، سواءً كانت نماذج بصرية نقية أو أساليب مدعومة بلغة. ولدمج المعرفة اللغوية، نقترح استراتيجيّة تنبؤ متعددة المقاييس (Multi-Granularity Prediction) لدمج معلومات من الوسيلة اللغوية داخل النموذج بطريقة غير مباشرة، أي أننا نُدخل تمثيلات الوحدات الفرعية (مثل BPE وWordPiece) التي تُستخدم على نطاق واسع في معالجة اللغة الطبيعية (NLP) إلى فضاء الإخراج، بالإضافة إلى التمثيل التقليدي على مستوى الحرف، مع عدم استخدام نموذج لغوي مستقل (LM). يؤدي هذا النموذج الناتج (وقد سُمّي MGP-STR) إلى دفع حدود الأداء في مجال STR إلى مستوى أعلى من السابق. وبشكل خاص، حقق متوسط دقة اعتراف بلغ 93.35% على المعايير القياسية. يمكن الوصول إلى الكود من خلال الرابط التالي: https://github.com/AlibabaResearch/AdvancedLiterateMachinery/tree/main/OCR/MGP-STR.