HyperAIHyperAI
منذ 18 أيام

تصنيف الاستجابة باستخدام تمثيلات تفاعلية عميقة متعددة الأنواع في المحادثات المستندة إلى الاسترجاع

{Dongyan Zhao, Rui Yan, Wei Wu, Jiazhan Feng, Chongyang Tao, Ruijian Xu}
الملخص

بناء نظام حواري ذكي قادر على اختيار رد مناسب وفقًا لسياق متعدد الدورات يمثل تحديًا في ثلاث جوانب: (1) يُبنى المعنى الخاص بزوج السياق-الرد على وحدات لغوية من مختلف المقاييس (مثل الكلمات، العبارات، والجزئيات الجملية، إلخ)؛ (2) قد توجد اعتماديات محلية (مثل نافذة صغيرة حول كلمة معينة) واعتماديات بعيدة المدى (مثل كلمات تمتد عبر السياق والرد) في بيانات الحوار؛ (3) قد تكمن العلاقة بين السياق والرد المرشح في عدة أدلة معنوية ذات صلة، أو في أدلة معنوية غير مباشرة إلى حد ما في بعض الحالات الواقعية. ومع ذلك، فإن النماذج الحالية تُشفّر الحوار غالبًا باستخدام تمثيل من نوع واحد، وتُنفّذ عمليات التفاعل بين السياق والرد المرشح بطريقة سطحية إلى حد ما، مما قد يؤدي إلى فهم غير كافٍ لمحتوى الحوار ويعرقل التعرف على الصلة المعنوية بين السياق والرد. ولحل هذه التحديات، نقترح إطارًا مكوّنًا من ثلاث مراحل: تمثيل [K] - تفاعل [L] - مطابقة، يُستكشف من خلاله أنواع متعددة من التمثيلات التفاعلية العميقة لبناء نماذج مطابقة السياق-الرد لاختيار الرد. وبشكل خاص، نُنشئ أنواعًا مختلفة من التمثيلات للزوجات المكوّنة من كلام-رد، ونُعمّق هذه التمثيلات من خلال تشفير متداخل وتفاعلات متكررة. وبهذا، يمكن للنموذج التعامل مع العلاقات بين العناصر المجاورة، وأنماط العبارات، والاعتماديات البعيدة المدى أثناء عملية التمثيل، وتحقيق تنبؤ أكثر دقة من خلال طبقات متعددة من التفاعلات بين زوج السياق-الرد. وتشير نتائج التجارب على ثلاث معايير عامة إلى أن النموذج المقترح يتفوق بشكل ملحوظ على النماذج التقليدية السابقة لتماثل السياق-الرد، ويحقق نتائج أفضل قليلاً من نموذج BERT في مهام اختيار الرد المتعدد الدورات ضمن أنظمة حوارات تعتمد على الاسترجاع.