HyperAIHyperAI
منذ 2 أشهر

قيود أحادية النمط غير المعلمة للتصنيف الترتيبي العميق

Belharbi, Soufiane ; Ayed, Ismail Ben ; McCaffrey, Luke ; Granger, Eric
الملخص

نقترح صياغة جديدة للتصنيف الترتيبي العميق تعتمد على التحسين المقيد، حيث يتم فرض أحادية النمط (uni-modality) لتوزيع العلامات بشكل ضمني من خلال مجموعة من القيود غير المتساوية على جميع الأزواج المتاخمة للعلامات. استنادًا إلى (c-1) قيد لـ c علامة، نموذجنا غير معلمي (non-parametric)، وبالتالي أكثر مرونة من التقنيات الحالية للتصنيف الترتيبي العميق. على عكس هذه التقنيات، لا يقيد تمثيل البيانات المتعلم بنموذج معلمي واحد ومحدد (أو عقوبة) تُفرض على جميع العلامات. لذلك، يمكنه تمكين التدريب من استكشاف فضاءات حلول أكبر، مع إزالة الحاجة إلى خيارات عشوائية وتوسيع نطاقه ليشمل أعدادًا كبيرة من العلامات. يمكن استخدامه بالاشتراك مع أي خسارة تصنيفية قياسية وأي هندسة عميقة. لمعالجة المشكلة الصعبة في التحسين الناجمة عن ذلك، نحل سلسلة من الخسائر غير المقيدة التي تستند إلى توسيع قوي لطريقة الحواجز اللوغاريتمية (log-barrier method).هذا يتعامل بفعالية مع القيود المنافسة ويسمح باستخدام الانحدار التدرجي العشوائي القياسي (SGD) للشبكات العميقة، بينما يتجنب الخطوات الثنائية الغالية حسابيًا للлагرانجيان (Lagrangian dual steps) ويتفوق بشكل كبير على طرق العقوبات. بالإضافة إلى ذلك، نقترح مؤشرًا جديدًا للأداء في التصنيف الترتيبي كوسيلة لقياس أحادية النمط للتوزيع، يُطلق عليه مؤشر ترتيب الجوانب (Sides Order Index - SOI). نقدم تقييمات شاملة ومقارنات مع أفضل الأساليب الحالية على مجموعات بيانات عامة معيارية لمهام تصنيف تراتبية متعددة، مما يظهر فوائد نهجنا فيما يتعلق باستقرار العلامات ودقة التصنيف والقابلية للتوسع. ومن المهم أن فرض استقرار العلامات بواسطة نموذجنا لا يؤدي إلى زيادة أخطاء التصنيف، بخلاف العديد من الأساليب الحالية للتصنيف الترتيبي. كما يتم توفير تنفيذ قابل للتكرار باستخدام PyTorch بشكل عام.(https://github.com/sbelharbi/unimodal-prob-deep-oc-free-distribution)

قيود أحادية النمط غير المعلمة للتصنيف الترتيبي العميق | أحدث الأوراق البحثية | HyperAI