التعلم بتجارب قليلة (Few-Shot Learning) هو أسلوب يتضمن تقديم عدد محدود من الأمثلة ضمن موجهات نماذج اللغة الكبيرة، مما يتيح للنموذج تعلم المهمة الحالية من خلال السياق، وعادةً ما يتم ذلك دون تحديث أوزان النموذج. تصف مصطلحات "بدون أمثلة" (zero-shot)، و"مثال واحد" (one-shot)، و"أمثلة قليلة" (few-shot) التمييز الشائع بناءً على عدد الأمثلة المدرجة في الموجه. تجدر الإشارة إلى أن مفهوم التعلم بتجارب قليلة بالمعنى الأوسع يشمل أيضاً طرق التدريب أو التكييف مثل التعلم من خلال التعلم (Meta-learning) والضبط الدقيق (Fine-tuning)، والتي لا تكون جميعها مرادفة للتعلم السياقي (In-context Learning).

في عام 2020، دفع نموذج GPT-3، الذي قدمه براون وزملاؤه في ورقة بحثية بعنوان 《Language Models are Few-Shot Learners》 هذا المسار إلى الواجهة الأمامية: حيث يحتوي النموذج على 175 مليار معامل، وهو أكبر بعشر مرات من أكبر نموذج لغة غير متناثر سابقاً؛ ولا يخضع أي من المهام لتحديثات التدرج أو الضبط الدقيق، بل تُدرج تعليمات المهمة والأمثلة بشكل نصي بحت ضمن الموجه. وقد أظهر أداءً قوياً في مهام مثل الترجمة، والإجابة على الأسئلة، وإكمال الفراغات، بالإضافة إلى المهام التي تتطلب استنتاجاً فورياً مثل خلط الكلمات واستخدام مفردات جديدة، وفي بعض الحالات اقترب من مستوى الأداء المتطور للنماذج المضبوطة بدقة لمهام فردية.

وهذا يفسر سبب تباين أداء نفس النموذج بشكل ملحوظ تحت موجهات مختلفة - فالتعلم السياقي حساس جداً لـ "كيفية تقديم الأمثلة". وقد حوّل هذا النهج المفهوم من "تدريب نموذج لكل مهمة" إلى "نموذج واحد يتكيف مع جميع المهام باستخدام الموجهات"، مما أدى مباشرةً إلى ظهور هندسة الموجهات والتعلم السياقي. ومع ذلك، فإن القيود واضحة أيضاً؛ إذ يتأثر الأداء بصياغة الموجه واختيار الأمثلة، كما أن ترتيب الأمثلة واختيارها يؤثران على النتائج، ويخضع عدد الأمثلة لحدود نافذة السياق، ولا تزال مهام الاستنتاج المعقدة تتطلب أساليب أكثر هيكلية.

[JIALIU_0]