HyperAIHyperAI
منذ 15 أيام

التحكم القابل للتجميع في النصوص ضمن الفضاء المخفي باستخدام المعادلات التفاضلية العادية

Guangyi Liu, Zeyu Feng, Yuan Gao, Zichao Yang, Xiaodan Liang, Junwei Bao, Xiaodong He, Shuguang Cui, Zhen Li, Zhiting Hu
التحكم القابل للتجميع في النصوص ضمن الفضاء المخفي باستخدام المعادلات التفاضلية العادية
الملخص

تطبيقات النصوص في العالم الحقيقي تتضمن غالبًا تنفيذ مجموعة واسعة من عمليات التحكم بالنص، مثل تعديل النص وفقًا لخاصية معينة، أو تعديل الكلمات المفتاحية والهيكل، أو إنشاء نص جديد يتمتع بخصائص مرغوبة. في الدراسات السابقة، كان يتم عادةً تدريب نموذج لغوي (LM) أو تحسينه بدقة (fine-tuning) لتنفيذ عملية واحدة أو مجموعة محددة من العمليات. أما البحث الحديث، فقد ركز على دمج العمليات بطريقة قابلة للتركيب (plug-and-play)، غالبًا مع استخدام عمليات بحث أو تحسين مكلفة في الفضاء التسلسلي المعقد. تقدم هذه الورقة منهجًا جديدًا وفعالًا لعمليات التحكم القابلة للتركيب في الفضاء الكامن المدمج للنص. تتيح البُعد المنخفض والقابلية للتمايز لمتجه الفضاء الكامن للنص إمكانية تطوير عينة فعالة تعتمد على المعادلات التفاضلية العادية (ODEs) عند توفر أي مشغلات قابلة للتركيب (مثل فئات تحديد السمات). وبربط نماذج اللغة المُدرَّبة مسبقًا (مثل GPT2) بالفضاء الكامن من خلال تكييف فعّال، نقوم بعد ذلك بفك تشفير المتجهات المُستَمَّلة إلى تسلسلات نصية مرغوبة. يتيح هذا النهج المرن استخدام مشغلات تحكم متنوعة (مثل المشاعر، الزمن، الرسمية، الكلمات المفتاحية، إلخ) التي تم اكتسابها باستخدام أي بيانات ذات صلة من مجالات مختلفة. تُظهر التجارب أن دمج هذه المشغلات ضمن هذا النهج يتمكن من إنشاء نصوص عالية الجودة أو تعديلها، مُحقِّقًا تحسنًا كبيرًا مقارنة بالطرق السابقة من حيث جودة الإنشاء وكفاءة الأداء.

التحكم القابل للتجميع في النصوص ضمن الفضاء المخفي باستخدام المعادلات التفاضلية العادية | أحدث الأوراق البحثية | HyperAI