التحليل الدلالي التكويني باستخدام نماذج اللغة الكبيرة

يمكن للبشر التفكير بشكل تراكبي عند مواجهة مهام جديدة. تُظهر الأبحاث السابقة أن تقنيات التحفيز المناسبة تمكّن النماذج اللغوية الكبيرة (LLMs) من حل مهام التعميم التراكبي الاصطناعية مثل SCAN. في هذا العمل، نحدد تحديات إضافية في مهام تحليل الدلالة الواقعية التي تتميز بقاموس أكبر، ونُعدّل تقنيات التحفيز لتلافي هذه التحديات. يعتمد أفضل أسلوب لدينا على تقنية التحفيز من الأقل إلى الأكبر: حيث يقوم بتفكيك المشكلة باستخدام تحليل تركيبي مبني على التحفيز، ثم يستخدم هذا التفكيك لاختيار الأمثلة المناسبة وإنشاء تحليل الدلالة بشكل تسلسلي. يُمكّننا هذا الأسلوب من تحقيق أفضل أداء حاليًا في CFQ، مع استعمال 1% فقط من بيانات التدريب المستخدمة في الطرق التقليدية. وبسبب الطبيعة العامة لنهجنا، نتوقع أن تؤدي محاولات مشابهة إلى نتائج جديدة في مهام وبيئات أخرى، خاصة في التطبيقات التي تتطلب معرفة واسعة.