HyperAIHyperAI
منذ 11 أيام

MISCA: نموذج موحد لكشف عدة نوايا وتعبئة الفراغات باستخدام انتباه متبادل بين النية والفراغ

Thinh Pham, Chi Tran, Dat Quoc Nguyen
MISCA: نموذج موحد لكشف عدة نوايا وتعبئة الفراغات باستخدام انتباه متبادل بين النية والفراغ
الملخص

أصبحت دراسة الكشف عن نوايا متعددة وملء الحقول (slots) أكثر شيوعًا بسبب أهميتها في السياقات الواقعية المعقدة. ورغم التقدم الذي أحرزته النماذج الحديثة القائمة على الرسوم البيانية، إلا أنها قد تواجه مشكلتين محتملتين: (أ) عدم اليقين الناتج عن بناء الرسوم البيانية بناءً على النوايا والحقول الأولية، مما قد يؤدي إلى نقل معلومات الارتباط بين النوايا والحقول إلى عقد تسمية خاطئة؛ و(ب) دمج النوايا المتعددة لكل رمز (token) مباشرةً في عملية التصويت على مستوى الرمز قد يؤدي إلى توقعات خاطئة للحقول، مما يضر بالأداء العام. ولحل هاتين المشكلتين، نقترح نموذجًا متكاملًا يُسمى MISCA. يُدخل MISCA آلية انتباه مشترك بين النوايا والحقول، وطبقة أساسية من آلية انتباه التسمية. تمكن هذه الآليات MISCA من التقاط العلاقات بين النوايا وعلامات الحقول بكفاءة، مما يُلغِي الحاجة إلى بناء رسوم بيانية. كما تسهم في نقل معلومات الارتباط في كلا الاتجاهين: من النوايا إلى الحقول، ومن الحقول إلى النوايا، من خلال مستويات متعددة من التمثيلات المخصصة للعلامات، دون الاعتماد على معلومات النوايا على مستوى الرموز. وأظهرت النتائج التجريبية أن MISCA يتفوق على النماذج السابقة، ويحقق أداءً جديدًا على مستوى الحالة الراهنة من الدقة الشاملة على مجموعتي بيانات معيارين: MixATIS وMixSNIPS. مما يُبرز فعالية آليات الانتباه التي اقترحناها.

MISCA: نموذج موحد لكشف عدة نوايا وتعبئة الفراغات باستخدام انتباه متبادل بين النية والفراغ | أحدث الأوراق البحثية | HyperAI