HyperAIHyperAI

Command Palette

Search for a command to run...

محول صغير يحقق 44% على ARC-AGI-1 بتكلفة 67 سنتًا

حقق باحث مستقل قفزة ملحوظة في كفاءة التعلم العيني عبر تطوير نموذج تحويل (Transformer) صغير ومن الصفر خلال ساعة ونصف باستخدام بطاقة رسومات RTX 5090، محققاً نسبة 44% على منصة ARC-AGI-1 مقابل 67 سنتاً فقط من تكلفة الحساب. يتفوق هذا الإنجاز على العديد من النماذج اللغوية الكبرى من حيث سرعة التدريب وتكلفتها، ويتسق في أدائه مع نماذج TRM وHRM، مسجلاً 7% على النسخة الثانية من المنصة. اعتمد الباحث مجموعة من التحسينات المعمارية والخوارزمية لتعظيم الكفاءة، أبرزها الانتقال إلى تدريب مشرف يركز على مخرجات النموذج فقط، واستبدال المُحسّن AdamW بالمُحسّن NorMuon لضمان تقارب أكثر استقراراً. كما أضاف تمثيلاً ثلاثي الأبعاد (3D RoPE) ودمج تمثيلات مخصصة لكل مهمة، مما أسهم في القفزة الأداءية. تجنّب الباحث تسرب البيانات بعناية فائقة عبر ترشيح المهام غير المتداخلة بين ARC-1 وARC-2، مما يحافظ على نزاهة التقييم دون الاعتماد على تقنيات التضخيم الاصطناعي أو البيانات الزائفة. يهدف المشروع إلى اختبار الحدود الفعلية لكفاءة العينات ضمن أطر التعلم العميق الحالية، وخفض تكاليف التكرار التجريبي لتمكين الباحثين والمطورين عالمياً من المشاركة. ويؤكد المؤلف أن النتائج تتحدى الافتراضات السائدة حول الحاجة الحتمية للبنية التكرارية أو التكديس الهائل للبيانات، مشيراً إلى أن النموذج يحافظ على قدراته حتى بدون تعزيز البيانات، مما يشير إلى إمكانية الوصول إلى نسبة 65% عبر تعديلات طفيفة. يتوفر الكود المصدري بالكامل تحت ترخيص مفتوح، ويدعو الباحث المجتمع العلمي إلى استكشاف مسارات تحسين الأداء وتقليل استهلاك الحوسبة، مع التشديد على أهمية تقليل الاعتماد على الزخارف اللونية والمعلمات الدلالية الاصطناعية. وتظل منصة ARC-AGI إطاراً مرجعياً حاسماً لقياس القدرات الاستدلالية المرنة وتتبع تطور النماذج بعيداً عن الاعتماد الكمي على البيانات الضخمة، في خطوة قد تعيد توجيه أولويات البحث نحو كفاءة التعلم وسرعة التطوير بتكلفة مستدامة.

الروابط ذات الصلة