HyperAIHyperAI

Command Palette

Search for a command to run...

منظور موحد لقياس المعلومات التبادلية في تعلم المقاييس: التبادلية العكسية مقابل خسائر زوجية

Malik Boudiaf Jérôme Rony Imtiaz Masud Ziko Eric Granger Marco Pedersoli Pablo Piantanida Ismail Ben Ayed

الملخص

في الآونة الأخيرة، ركّزت الجهود البحثية الكبيرة في التعلم العميق للمقياس (DML) على تصميم خسائر معقدة تعتمد على المسافات بين الأزواج، والتي تتطلب استراتيجيات معقدة لتيسير التحسين، مثل استخراج العينات (sample mining) أو ترجيح الأزواج. في المقابل، تم إهمال الخسارة القياسية للانتماء العابر (cross-entropy) في سياق التعلم المقياسي. في الظاهر، قد يبدو أن الخسارة العكسية للانتماء العابر لا علاقة لها بالتعلم المقياسي، نظرًا لعدم تضمينها بشكل صريح لمسافات ثنائية بين العينات. ومع ذلك، نقدم تحليلًا نظريًا يربط بين خسارة الانتماء العابر وعدد من الخسائر الثنائية المعروفة والحديثة. تنشأ هذه الربط من منظورين مختلفين: الأول يعتمد على رؤية تحسينية صريحة؛ والثاني يعتمد على وجهتي نظر تمييزية وتكوينية لل-information التبادلي بين التصنيفات والسمات المُتعلّمة. أولاً، نُظهر صراحةً أن خسارة الانتماء العابر تمثل حدًا علويًا لخسارة ثنائية جديدة، تمتلك هيكلًا مشابهًا لعدة خسائر ثنائية: فهي تقلل المسافات داخل الفئة وتعزز المسافات بين الفئات. وبالتالي، يمكن اعتبار تقليل خسارة الانتماء العابر كخوارزمية تقريبية للتحسين من خلال الحدود (أو خوارزمية التكبير-التحقيق، Majorize-Minimize) لتقليل هذه الخسارة الثنائية. ثانيًا، نُظهر أن، بشكل عام، تقليل خسارة الانتماء العابر يعادل فعليًا تحسين المعلومات التبادلية، والتي نربطها بخسائر ثنائية معروفة. علاوةً على ذلك، نُظهر أن خسائر ثنائية قياسية مختلفة يمكن ربطها صراحةً ببعضها البعض عبر علاقات حدودية. تشير نتائجنا إلى أن خسارة الانتماء العابر تمثل بديلًا (proxy) لتعظيم المعلومات التبادلية – تمامًا كما تفعل الخسائر الثنائية – دون الحاجة إلى استراتيجيات معقدة مثل خوارزميات استخراج العينات اليدوية. وقد أيدت تجاربنا على أربع معايير قياسية لـ DML نتائجنا بشكل قوي، حيث تحققت نتائج على مستوى الحد الأقصى (state-of-the-art)، متفوقةً على الطرق الحديثة والمعقدة في التعلم المقياسي العميق.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp
منظور موحد لقياس المعلومات التبادلية في تعلم المقاييس: التبادلية العكسية مقابل خسائر زوجية | مستندات | HyperAI