إن عملية التفكير في معظم برامج الماجستير في القانون مفتوحة المصدر (على سبيل المثال، LLaMA-2) معقدة نسبيًا ولا تزال غير مرضية في حل المشكلات الرياضية. ولسد هذه الفجوة، اقترح الباحثون MetaMath، وهو نموذج لغوي دقيق متخصص في التفكير الرياضي. من أجل تحسين قدرات التفكير الأمامي والعكسي للنموذج،اقترح باحثون من كامبريدج وجامعة هونج كونج للعلوم والتكنولوجيا وهواوي مجموعة بيانات MetaMathQA استنادًا إلى مجموعتين من بيانات الرياضيات المستخدمة بشكل شائع (GSM8K وMATH): مجموعة بيانات التفكير الرياضي ذات تغطية واسعة وجودة عالية. يتكون MetaMathQA من 395 ألف زوج من الأسئلة والأجوبة الرياضية الأمامية والعكسية التي تم إنشاؤها بواسطة نموذج لغوي كبير. لقد قاموا بضبط LLaMA-2 على مجموعة بيانات MetaMathQA للحصول على نموذج لغوي كبير MetaMath يركز على التفكير الرياضي (الأمامي والعكسي)، وحققوا SOTA على مجموعة بيانات التفكير الرياضي. تم توفير مجموعة بيانات MetaMathQA ونماذج MetaMath ذات الأحجام المختلفة كمصدر مفتوح ليستخدمها الباحثون.

يتضمن MetaMathQA أربع طرق لزيادة البيانات:

1. زيادة الإجابة: عند طرح سؤال ما، يتم استخدام نموذج لغوي كبير لتوليد سلسلة من الأفكار التي يمكن أن تؤدي إلى الإجابة الصحيحة من خلال زيادة البيانات.
2. إعادة صياغة السؤال: إذا كان لديك سؤال ميتا، فأعد كتابة السؤال من خلال نموذج لغوي كبير وقم بإنشاء سلسلة من الأفكار تؤدي إلى الإجابة الصحيحة كزيادة للبيانات.
3. سؤال FOBAR (تحسين سؤال FOBAR العكسي): في حالة وجود سؤال ميتافيزيقي، قم بإنشاء سؤال عكسي عن طريق إخفاء الرقم في الشرط على أنه x، مع إعطاء الإجابة الأصلية واستنتاج x، وإنشاء عملية سلسلة التفكير الصحيحة بناءً على السؤال العكسي لإجراء عملية تكبير البيانات
4. سؤال التحقق الذاتي: بناءً على FOBAR، تتم إعادة كتابة جزء السؤال العكسي كعبارة من خلال نموذج لغوي كبير لأداء زيادة البيانات.