عينة سلبية صعبة ديناميكية فعالة لاختيار المحادثة

أظهرت الدراسات الحديثة تحسينات كبيرة في مهام الاختيار، ويعود جزء كبير من هذا النجاح إلى دمج عينات سلبية معلوماتية خلال التدريب. وعلى الرغم من أن الطرق التقليدية لبناء العينات السلبية الصعبة توفر إشرافًا مفيدًا، إلا أنها تعتمد على عينات ثابتة لا تتغير خلال التدريب، مما يؤدي إلى أداء غير مثالي. ويُعالج Sampling السلبي الصعب الديناميكي هذه المشكلة من خلال التكيف المستمر مع الحالة المتغيرة للنموذج طوال عملية التدريب. ومع ذلك، فإن الطلب العالي على الحوسبة المرتبط بهذه الطريقة يُحد من تطبيقها على بعض هياكل النماذج. لتجاوز هذه التحديات، نقدّم طريقة فعّالة للعينات السلبية الصعبة الديناميكية (EDHNS). وتعزز EDHNS الكفاءة من خلال تصفية مسبقًا للعينات السلبية السهلة التمييز، مما يقلل من عدد المرشحات التي يجب على النموذج حسابها أثناء التدريب. علاوةً على ذلك، تُستبعد أزواج الأسئلة-المرشحات التي يُظهر فيها النموذج بالفعل مستوى عالٍ من الثقة من عمليات حساب الدالة الخسارة، مما يُقلل بشكل إضافي من وقت التدريب. وتُحافظ هذه الطرق على جودة التعلّم مع تقليل الحوسبة وتبسيط عملية التدريب. وقد أظهرت تجارب واسعة النطاق على معايير DSTC9 وDSTC10 وUbuntu والتجارة الإلكترونية أن EDHNS تتفوّق بشكل ملحوظ على النماذج الأساسية، مما يثبت فعاليتها في مهام اختيار المحادثات.