الانخراط الكامل في فهم المستندات باستخدام نموذج النص-الصورة-التخطيط المُحوسب بالتحولات

ن tackled المشكلة الصعبة لفهم اللغة الطبيعية خارج المستندات النصية البسيطة من خلال تقديم معمارية الشبكة العصبية TILT التي تتعلم في نفس الوقت معلومات التخطيط (layout)، والسمات البصرية، والدلالات النصية. على عكس النهج السابقة، نعتمد على مُفكّك (decoder) قادر على دمج مجموعة متنوعة من المشكلات المتعلقة باللغة الطبيعية. يُمثّل التخطيط كانحياز انتباه (attention bias) ويُكمل ببيانات بصرية مُحتَفَظة بالسياق، في حين أن النواة الأساسية لنموذجنا هي نموذج مُشفّر-مُفكّك مُدرّب مسبقًا بنموذج Transformer. تحقق طريقة عملنا الجديدة نتائج متقدمة على مستوى الحالة الحالية (state-of-the-art) في استخراج المعلومات من المستندات والإجابة على الأسئلة التي تتطلب فهمًا للتخطيط (DocVQA، CORD، SROIE). وفي الوقت نفسه، نبسط العملية من خلال استخدام نموذج يعتمد على عملية من البداية إلى النهاية (end-to-end).