Deepro Choudhury Sinead Williamson Adam Goliński Ning Miao Freddie Bickford Smith et al

الملخص

نُقدِّم نهجًا عامّاً لتحسين قدرة النماذج اللغوية الكبيرة (LLMs) على جمع المعلومات بشكل ذكي ومتكيّف من المستخدم أو مصادر خارجية أخرى، باستخدام إطار التصميم التجريبي بايزي التسلسلي (BED). يمكّن هذا النهج النماذج اللغوية الكبيرة من التصرف كعوامل تفاعلية متعددة المرات، والتفاعل بفعالية مع البيئات الخارجية. يُسمّى هذا النهج الذي نقدّمه "BED-LLM" (التصميم التجريبي بايزي مع النماذج اللغوية الكبيرة)، ويعتمد على اختيار تسلسلي للأسئلة أو الاستفسارات التي تُحسّن من كمية المعلومات المتوقعة (EIG) حول المهمة المطلوبة، بالاعتماد على الاستجابات التي تم جمعها سابقًا. ونُبيّن كيف يمكن صياغة هذه الكمية المتوقعة من المعلومات بطريقة مبدأية باستخدام نموذج احتمالي مستمد من توزيع اعتقادات النموذج اللغوي الكبير، مع تقديم رؤى مفصلة حول القرارات الأساسية في بنائه. وتجدر الإشارة إلى أن عددًا من الابتكارات المحددة تُعدّ حجر الزاوية في نجاح BED-LLM، مثل مُقدّر مُصمَّم بدقة للكمية المتوقعة من المعلومات، والذي لا يعتمد فقط على التحديثات ضمن السياق لتأدية التكيّف مع الاستجابات السابقة، بل يشمل أيضًا استراتيجية موجهة لاقتراح استفسارات مرشحة. ونجد أن BED-LLM يحقق تحسّنًا كبيرًا في الأداء عبر طيف واسع من الاختبارات التي تستند إلى لعبة "العشرة أسئلة" واستخدام النموذج اللغوي الكبير لاستنتاج تفضيلات المستخدم بشكل نشط، مقارنةً بالتقنيات المباشرة لتقديم الأوامر (prompting) للنموذج اللغوي الكبير، أو غيرها من الاستراتيجيات التصميمية التكيفية.