HyperAIHyperAI
منذ 2 أشهر

ContextFlow++: نماذج توليدية مستندة إلى التدفق بترميز السياق المتغير المختلط للخبراء العامين والمتخصصين

Denis Gudovskiy; Tomoyuki Okuno; Yohei Nakata
ContextFlow++: نماذج توليدية مستندة إلى التدفق بترميز السياق المتغير المختلط للخبراء العامين والمتخصصين
الملخص

تم استخدام نماذج التوليد القائمة على تدفق التطبيع بشكل واسع في التطبيقات حيث يكون تقدير الكثافة الدقيق من الأهمية بمكان. تقترح البحوث الحديثة العديد من الطرق لتحسين قابليتها للتعبير. ومع ذلك، فإن تكييف النماذج على السياق هو مجال يُهمل إلى حد كبير في أبحاث التدفق البيجيتي (bijective). التكييف التقليدي باستخدام اتصال المتجهات محدود فقط لأنواع قليلة من التدفقات. وأكثر أهمية من ذلك، لا يمكن لهذا النهج دعم الإعداد العملي حيث يتم تدريب مجموعة من النماذج المتخصصة المشروطة بالسياق مع نموذج عام مسبق التدريب (generalist). نقترح نهج ContextFlow++ للتغلب على هذه القيود باستخدام تكييف إضافي مع فصل صريح للمعرفة العامة والمتخصصة. بالإضافة إلى ذلك، ندعم السياقات المنفصلة عن طريق الهندسة المقترحة ذات المتغيرات المختلطة مع مشفري السياق. خصوصًا، يكون مشفر السياق الخاص بنا للمتغيرات المنفصلة تدفقًا سرجيتيًا (surjective) يتم منه استخراج المتغيرات المستمرة المشروطة بالسياق. أظهرت تجاربنا على مقاييس MNIST-R المحولة، وCIFAR-10C المعطوبة، والصيانة التنبؤية الحقيقية لأجهزة الصراف الآلي ATM، وكشف العيوب غير المشرف عليها في SMAP أن النهج المقترح ContextFlow++ يوفر تدريبًا مستقرًا وأسرع ويحقق مؤشرات أداء أعلى. رمزنا متاح بشكل عام على الرابط https://github.com/gudovskiy/contextflow.

ContextFlow++: نماذج توليدية مستندة إلى التدفق بترميز السياق المتغير المختلط للخبراء العامين والمتخصصين | أحدث الأوراق البحثية | HyperAI