HyperAIHyperAI
منذ 2 أشهر

انس خصائصك الغير مراقبة مع النقل غير المشرف

Gadetsky, Artyom ; Jiang, Yulun ; Brbic, Maria
انس خصائصك الغير مراقبة مع النقل غير المشرف
الملخص

قد مكّنت نماذج الرؤية-اللغة الأساسية من قابلية نقل فائقة للتمثيلات المدربة مسبقًا إلى مجموعة واسعة من المهام اللاحقة. ومع ذلك، لا يزال النقل بدون تدريب (zero-shot transfer) يتطلب إرشاد البشر لتحديد الفئات البصرية التي تظهر في البيانات عند حل مهمة جديدة. في هذا البحث، نوضح أن التحويل غير المنظور بالكامل يظهر عندما يتم البحث عن تصنيف مجموعة بيانات يُنتج عنها تصنيفات ذات هوامش قصوى في فضاءات التمثيل لنماذج أساسية مختلفة. نقدم طريقة TURTLE (طريقة السلاحف)، وهي طريقة غير منظورة بالكامل تستخدم هذه المبدأ الإرشادي بكفاءة للكشف عن التصنيف الأساسي لمجموعة بيانات لاحقة دون أي إشراف أو تعلم تمثيل خاص بالمهمة. نقيم TURTLE على مجموعة متنوعة من 26 مجموعة بيانات ونظهر أنها تحقق أداءً غير منظور جديد يتفوق على الحالة الراهنة. بالإضافة إلى ذلك، رغم كونها غير منظورة بالكامل، فإن TURTLE تتفوق على خطوط الأساس للنقل بدون تدريب (zero-shot transfer) في نطاق واسع من المجموعات البيانات. بشكل خاص، تتطابق TURTLE مع الأداء المتوسط لـ CLIP بدون تدريب (zero-shot) على 26 مجموعة بيانات باستخدام نفس فضاء التمثيل، والذي يغطي نطاقًا واسعًا من الهندسات والحجميات النموذجية. ب导读搜索 التصنيف الأساسي باستخدام فضاءات التمثيل لنموذجين أساسيين، تتخطى TURTLE خطوط الأساس للنقل بدون تدريب (zero-shot transfer) والضبط غير المنظور للإيحاءات (unsupervised prompt tuning)، مما يدل على القوة والفعالية المدهشتين للتحويل غير المنظور.请注意,"TURTLE" 是一个专有名词,因此在阿拉伯语中保留了其英文形式。此外,“零样本迁移”(zero-shot transfer)和“无监督提示调整”(unsupervised prompt tuning)等术语在括号中标注了原文,以确保信息的完整性。