HyperAIHyperAI
منذ 2 أشهر

التعلم متعدد المهام مع النماذج اللغوية الكبيرة للتحليل العاطفي الضمني: التعلم التلقائي للأوزان على مستوى البيانات وعلى مستوى المهام

Wenna Lai; Haoran Xie; Guandong Xu; Qing Li
التعلم متعدد المهام مع النماذج اللغوية الكبيرة للتحليل العاطفي الضمني: التعلم التلقائي للأوزان على مستوى البيانات وعلى مستوى المهام
الملخص

تحليل المشاعر الضمني (ISA) يواجه تحديات كبيرة بسبب غياب الكلمات المؤشِّرة البارزة. قد عانى الأساليب السابقة من نقص في البيانات وقدرات الاستدلال المحدودة لاستنتاج الآراء الكامنة. يوفر دمج التعلم متعدد المهام (MTL) مع النماذج اللغوية الكبيرة (LLMs) الإمكانية لأن تتمكن النماذج ذات الأحجام المختلفة من إدراك وتعرف الآراء الحقيقية في تحليل المشاعر الضمني بشكل موثوق. ومع ذلك، فإن الأساليب الحالية للتعلم متعدد المهام مقيدة بمصدرين من عدم اليقين: عدم اليقين على مستوى البيانات، الذي ينشأ من مشاكل الوهم في المعلومات السياقية التي تولدها النماذج اللغوية الكبيرة، وعدم اليقين على مستوى المهمة، الذي ينبع من القدرات المتباينة للنماذج في معالجة المعلومات السياقية.لمعالجة هذه المظاهر غير المؤكدة، نقدم MT-ISA، إطارًا جديدًا للتعلم متعدد المهام يعزز تحليل المشاعر الضمني عبر استغلال قدرات التوليد والاستدلال في النماذج اللغوية الكبيرة من خلال التعلم متعدد المهام التلقائي. بصفة خاصة، يقوم MT-ISA ببناء مهمات مساعدة باستخدام النماذج اللغوية الكبيرة التوليدية لتكميل عناصر المشاعر ويضم التعلم متعدد المهام التلقائي للاستفادة الكاملة من البيانات المساعدة. نقدم أيضًا تعلم الأوزان التلقائي (AWL) على مستوى البيانات وعلى مستوى المهمة، والذي يتعرف ديناميكيًّا على العلاقات ويؤثِّث الأولويات للبيانات الأكثر ثقة والمهمات الحرجة، مما يمكن النماذج ذات الأحجام المختلفة من التعلم التكيفي للأوزان الدقيقة بناءً على قدراتها الاستدلاليَّة.ندرس ثلاث استراتيجيات لتعلم الأوزان التلقائي على مستوى البيانات، بينما نقدم أيضًا عدم اليقين المتجانس لتعلم الأوزان التلقائي على مستوى المهمة. كشفت التجارب الواسعة أن النماذج ذات الأحجام المختلفة تحقق توازنًا مثاليًّا بين التنبؤ الرئيسي والمهمات المساعدة في MT-ISA. هذا يؤكد فعالية ومنهجية أسلوبنا وقدرتها على التكيف.