HyperAIHyperAI
منذ 2 أشهر

الأسئلة المفتوحة مع نماذج التضمين الضعيفة الإشراف

Antoine Bordes; Jason Weston; Nicolas Usunier
الأسئلة المفتوحة مع نماذج التضمين الضعيفة الإشراف
الملخص

بناء أجهزة كمبيوتر قادرة على الإجابة على الأسئلة في أي موضوع هو هدف قديم للذكاء الاصطناعي. تم تحقيق تقدم واعد مؤخرًا من خلال طرق تتعلم رسم خرائط الأسئلة إلى أشكال منطقية أو استعلامات قاعدة بيانات. يمكن أن تكون مثل هذه النهج فعالة ولكن بثمن إما كميات كبيرة من البيانات المصنفة من قبل البشر أو من خلال تعريف مصطلحات ولغويات مخصصة من قبل الممارسين. في هذا البحث، نتبنى بدلاً من ذلك نهجًا جريئًا يتمثل في تعلم رسم خرائط الأسئلة إلى تمثيلات متجهية للخصائص (vectorial feature representations). عن طريق رسم خرائط الإجابات في نفس الفضاء، يمكن الاستفسار من أي قاعدة معرفة مستقلة عن مخططها دون الحاجة إلى أي لغوية أو مصطلحات. يتم تدريب طريقة عملنا باستخدام إجراء جديد للتحسين يجمع بين الانحدار التدرجي العشوائي (stochastic gradient descent) يتبعه خطوة ضبط دقيقة باستخدام الرقابة الضعيفة المقدمة من خلال دمج الموارد التي تم إنتاجها بشكل آلي وتشاركي. نثبت بالتجربة أن نموذجنا قادر على التقاط إشارات ذات معنى من الرقابة الضوضائية، مما يؤدي إلى تحسينات كبيرة على Paralex، وهي الطريقة الوحيدة القائمة حتى الآن القادرة على التدريب باستخدام بيانات مشابهة ومصنفة بشكل ضعيف.

الأسئلة المفتوحة مع نماذج التضمين الضعيفة الإشراف | أحدث الأوراق البحثية | HyperAI