HyperAIHyperAI
منذ 17 أيام

التدريب المتعدد الأهداف بالاستيفاء لتحسين المقاومة لضوضاء التسمية

Diego Ortego, Eric Arazo, Paul Albert, Noel E. O&#39, Connor, Kevin McGuinness
التدريب المتعدد الأهداف بالاستيفاء لتحسين المقاومة لضوضاء التسمية
الملخص

الشبكات العصبية العميقة التي تُدرَّب باستخدام دالة الخسارة القياسية للإنتروبيا المتقاطعة تمتص العلامات الضوضائية، مما يؤدي إلى تدهور أدائها. وتركز معظم الأبحاث الموجهة لتقليل هذه الامتصاص على اقتراح دوال خسارة تصنيفية مقاومة جديدة. بالمقابل، نقترح نهجًا جديدًا يُسمى التدريب المتعدد الأهداف بالاستيفاء (MOIT)، الذي يستغل بالتوازي التعلم التمييزي والتصنيف لمساعدة بعضهما البعض وتعزيز الأداء في مواجهة الضوضاء في العلامات. نوضح أن التعلم المراقب التمييزي القياسي يتأثر سلبًا في ظل وجود علامات ضوضائية، ونُقدّم استراتيجية تدريب بالاستيفاء لتقليل هذا السلوك. كما نقترح طريقة جديدة للكشف عن الضوضاء في العلامات، تُستمد من تمثيلات الميزات المقاومة التي تُتعلَّم عبر التعلم التمييزي، لتقدير علامات لينة لكل عينة (soft-labels)، حيث تُظهر التناقضات بين هذه العلامات والعلامات الأصلية تحديد العينات الضوضائية بدقة. يُمكّن هذا الكشف من التعامل مع العينات الضوضائية كعينات غير مُعلَّمة، وتدريب فاصل تصنيف بطريقة شبه مراقبة، مما يمنع امتصاص الضوضاء ويعزز تعلم التمثيلات. ونُقدّم أيضًا MOIT+، وهي تحسين لنهج MOIT يتم من خلاله التصحيح الدقيق (fine-tuning) على العينات النظيفة التي تم الكشف عنها. وتحدد دراسات ضبط المعايير والتقييم التجريبي المكونات الأساسية لطريقتنا. وتُظهر التجارب على مجموعات بيانات ضوضاء مُصطنعة وواقعية نتائج متقدمة على مستوى الحد الأدنى (state-of-the-art) لطريقة MOIT/MOIT+. يُمكن الوصول إلى الكود عبر الرابط: https://git.io/JI40X.

التدريب المتعدد الأهداف بالاستيفاء لتحسين المقاومة لضوضاء التسمية | أحدث الأوراق البحثية | HyperAI