منذ 2 أشهر
شبكات المتنبئ الخفي لتوليد الرموز البرمجية
Wang Ling; Edward Grefenstette; Karl Moritz Hermann; Tomáš Kočiský; Andrew Senior; Fumin Wang; Phil Blunsom

الملخص
تتطلب العديد من مهام توليد اللغة إنتاج نص مشروط بمدخلات منظمة وغير منظمة على حد سواء. نقدم هندسة عصبية جديدة تولد سلسلة خرج مشروطة بعدد تعسفي من الوظائف المدخلية. وبشكل حاسم، يسمح نهجنا باستبعاد اختيار السياق الشرطي ودقة التوليد، مثل الأحرف أو الرموز، مما يتيح التدريب القابل للتوسع والفعال. باستخدام هذا الإطار، نعالج مشكلة توليد كود البرمجة من مواصفات مختلطة تتكون من لغة طبيعية ومنظمات. قمنا بإنشاء مجموعة بيانات جديدة لهذه النموذج مستوحاة من ألعاب البطاقات التجارية القابلة للجمع "ماجيك ذا جاتHER" (Magic the Gathering) و"هيرثستون" (Hearthstone). وعلى هذه المجموعات، بالإضافة إلى مجموعة بيانات ثالثة موجودة مسبقًا، أظهرنا أن استبعاد متعدد المتنبئين يسمح لنموذجنا بتجاوز مقاييس الأداء القوية.