رئيس سياسات Hugging Face: التقييم المدمج للذكاء ليس سهلاً
أكدت إيرين سليمان، كبيرة مسؤولي السياسات في هاغينغ فيس، أن منظومة تقييم الذكاء الاصطناعي الحالية لا تصلح بعد لأن تكون مرجعاً محايداً وموثوقاً بالكامل، رغم اعتماد المختبرات عليها للمقارنة بين نماذجها. وقالت في نقاش ضمن مؤتمر تك كرانش ديسرابت إن التقييمات علوم متطورة تتطور ببطء، وإن صناعة الذكاء الاصطناعي تحتاج إلى منهجية أكثر اتساقاً وقابلية للتكرار إذا أرادت الاعتماد عليها مستقبلاً. وأشارت إلى أن الثقة بنتائج التقييم لا تتحقق إلا بتمكين أطراف مستقلة من إعادة إنتاج النتائج، وهو أمر مرتبط بمستوى الوصول إلى النماذج، لا سيما عندما تكون أوزانها مفتوحة. وأضافت أن التقييمات تفتقر إلى أساس واضح لمقارنتها بعضها ببعض، ما يجعلها تفقد فعاليتها بسرعة بسبب ضعف المنظومة المتخصصة. وجاء حديثها مع تصاعد النقاش حول المقيمين المدمجين، وهم مراقبون خارجيون يفترض أن يعملوا داخل شركات الذكاء الاصطناعي لرصد المخاطر، كبديل مؤقت عن تنظيم حكومي أكثر إلزاماً. ولاقت هذه الفكرة انتقادات بسبب شكوك في حياد هؤلاء المقيمين وكفاءتهم، إذ أثارت خطوة أنثروبيك التعاقد مع إكسنشر للتقييم ردود فعل ساخرة من بعض المتابعين. وأوضحت سليمان أن الاختبارات انتقلت من قياس النماذج وحدها إلى تقييم النظام الكامل، بما فيه الأدوات التي يستخدمها المستخدم والوكلاء الآليون. ونبهت إلى أن نموذجاً أضعف قد يتفوق على نموذج متقدم إذا استعان بأداة تشغيل أفضل، ما يجعل تقييم الوكلاء مهمة معقدة ومكلفة. ودعت في الخلاصة إلى توحيد المعايير وتحديد شروط أهلية المقيمين ومهامهم، لأن غياب التنظيم المشترك يحول التقييمات اليوم إلى فضاء مفتوح يصعب الاتكاء عليه كمرجع صناعي موثوق.
