منظور موحد لقياس المعلومات التبادلية في تعلم المقاييس: التبادلية العكسية مقابل خسائر زوجية

في الآونة الأخيرة، ركّزت الجهود البحثية الكبيرة في التعلم العميق للمقياس (DML) على تصميم خسائر معقدة تعتمد على المسافات بين الأزواج، والتي تتطلب استراتيجيات معقدة لتيسير التحسين، مثل استخراج العينات (sample mining) أو ترجيح الأزواج. في المقابل، تم إهمال الخسارة القياسية للانتماء العابر (cross-entropy) في سياق التعلم المقياسي. في الظاهر، قد يبدو أن الخسارة العكسية للانتماء العابر لا علاقة لها بالتعلم المقياسي، نظرًا لعدم تضمينها بشكل صريح لمسافات ثنائية بين العينات. ومع ذلك، نقدم تحليلًا نظريًا يربط بين خسارة الانتماء العابر وعدد من الخسائر الثنائية المعروفة والحديثة. تنشأ هذه الربط من منظورين مختلفين: الأول يعتمد على رؤية تحسينية صريحة؛ والثاني يعتمد على وجهتي نظر تمييزية وتكوينية لل-information التبادلي بين التصنيفات والسمات المُتعلّمة. أولاً، نُظهر صراحةً أن خسارة الانتماء العابر تمثل حدًا علويًا لخسارة ثنائية جديدة، تمتلك هيكلًا مشابهًا لعدة خسائر ثنائية: فهي تقلل المسافات داخل الفئة وتعزز المسافات بين الفئات. وبالتالي، يمكن اعتبار تقليل خسارة الانتماء العابر كخوارزمية تقريبية للتحسين من خلال الحدود (أو خوارزمية التكبير-التحقيق، Majorize-Minimize) لتقليل هذه الخسارة الثنائية. ثانيًا، نُظهر أن، بشكل عام، تقليل خسارة الانتماء العابر يعادل فعليًا تحسين المعلومات التبادلية، والتي نربطها بخسائر ثنائية معروفة. علاوةً على ذلك، نُظهر أن خسائر ثنائية قياسية مختلفة يمكن ربطها صراحةً ببعضها البعض عبر علاقات حدودية. تشير نتائجنا إلى أن خسارة الانتماء العابر تمثل بديلًا (proxy) لتعظيم المعلومات التبادلية – تمامًا كما تفعل الخسائر الثنائية – دون الحاجة إلى استراتيجيات معقدة مثل خوارزميات استخراج العينات اليدوية. وقد أيدت تجاربنا على أربع معايير قياسية لـ DML نتائجنا بشكل قوي، حيث تحققت نتائج على مستوى الحد الأقصى (state-of-the-art)، متفوقةً على الطرق الحديثة والمعقدة في التعلم المقياسي العميق.