LongWriter: إطلاق العنان لقوة توليد أكثر من 10,000 كلمة من خلال برنامج ماجستير الحقوق للسياق الطويل

1. مقدمة البرنامج التعليمي

LongWriter هو مشروع مفتوح المصدر تم تطويره بواسطة مجموعة أبحاث استخراج البيانات بجامعة تسينغهوا (THUDM) والذي يقوم بإنشاء نصوص طويلة جدًا (أكثر من 10000 كلمة) باستخدام نموذج لغة كبير السياق الطويل (LLM). يهدف المشروع إلى التغلب على قيود نماذج اللغة الكبيرة الحالية في توليد نصوص طويلة جدًا والتأكد من أن المحتوى الناتج يظل متماسكًا وذو صلة بالنصوص الطويلة. يمكن لبرنامج LongWriter التكيف مع أنواع مختلفة من مهام إنشاء النصوص الطويلة، بما في ذلك على سبيل المثال لا الحصر الإبداع الأدبي والأوراق الأكاديمية والتقارير الإخبارية وما إلى ذلك. هذا التنوع يجعل LongWriter قابلاً للتطبيق على نطاق أوسع في التطبيقات العملية.

2. خطوات التشغيل

بعد بدء تشغيل الحاوية، انقر فوق عنوان API للدخول إلى واجهة الويب

يمكنك اختيار تعيين مطالبة، ثم الاستمرار في التحدث إلى النموذج، وضبط معلمات أخذ العينات بشكل اختياري.

• الحد الأقصى للطول (الإدخال + الإخراج): الحد الأقصى لطول سياق الإدخال بالإضافة إلى الإخراج
• أعلى P: على سبيل المثال، إذا كانت p=0.9، فإننا نختار فقط كلمة من أصغر مجموعة من الكلمات التي يصل احتمالها التراكمي إلى 0.9، ونتجاهل الكلمات الأخرى التي يكون احتمالها التراكمي أقل من 0.9. يتجنب هذا أخذ عينات من بعض الكلمات غير المناسبة أو غير ذات الصلة مع الاحتفاظ أيضًا ببعض الكلمات المثيرة للاهتمام أو الإبداعية.
• درجة الحرارة: درجة الحرارة [0,1]، تتحكم في عشوائية البيانات المولدة. كلما ارتفعت درجة الحرارة، كلما زادت العشوائية. كلما انخفضت درجة الحرارة، كلما انخفضت العشوائية.

على سبيل المثال، الشكل التالي

انقر فوق "إرسال" لرؤية نتائج إخراج النموذج