HyperAIHyperAI
منذ 11 أيام

يمكن للعديد من نماذج اللغة أن تكون شعراء أيضًا: مساعد كتابة ذكاء اصطناعي ومستودع إنشاء نصوص مقيدة

Allen Roush, Sanjay Basu, Akshay Moorthy, Dmitry Dubovoy
يمكن للعديد من نماذج اللغة أن تكون شعراء أيضًا: مساعد كتابة ذكاء اصطناعي ومستودع إنشاء نصوص مقيدة
الملخص

على الرغم من التقدم السريع في مجال توليد اللغة الطبيعية المُقيّدة، إلا أن القليل من الوقت قد تم تخصيصه لاستكشاف الإمكانات المتوفرة في نماذج اللغة التي تم تقييد مفرداتها لغويًا، ودلالياً، وصوتيًا. وجدنا أن معظم نماذج اللغة تُنتج نصوصًا مقنعة حتى تحت قيود كبيرة. نقدم تقنية بسيطة وقابلة للتطبيق بشكل عام، تُعدّل من مخرجات نموذج اللغة من خلال تطبيق دوال مرشحة بشكل تراكبي على قاموس النموذج قبل إنتاج وحدة نصية. تمتاز هذه الطريقة بسهولة التكامل (plug-and-play) ولا تتطلب أي تعديل على النموذج نفسه. ولإظهار قيمة هذه التقنية، نقدّم أداة كتابة ذكية سهلة الاستخدام تُسمى "ستوديو توليد النصوص المُقيّدة" (CTGS). تتيح لك CTGS إنشاء نصوص أو اختيارها من بين مجموعة واسعة من القيود المتنوعة، مثل منع حرف معين، أو إجبار الكلمات المولّدة على احتواء عدد معين من المقاطع الصوتية، أو إجبارها على أن تكون أشكالًا جزئية من كلمات أخرى (أنياجرامات جزئية). كما نقدّم مجموعة بيانات جديدة من النصوص السردية التي تُستبعد منها الحرف "e". ونُظهر أن طريقة العمل لدينا تُحقق أداءً أفضل بشكل صارم مقارنةً بالضبط الدقيق (fine-tuning) وحده على هذه المجموعة. كما نقدّم تطبيقًا ويب على منصة Hugging Face يُسمى "Gadsby"، يُظهر هذه التقنية. يمكن للجمهور الوصول إلى الكود المصدر عبر الرابط التالي: https://github.com/Hellisotherpeople/Constrained-Text-Generation-Studio

يمكن للعديد من نماذج اللغة أن تكون شعراء أيضًا: مساعد كتابة ذكاء اصطناعي ومستودع إنشاء نصوص مقيدة | أحدث الأوراق البحثية | HyperAI