أوبن إيه آي توقف تدريب نماذجها على الإنترنت الحي بسبب مخاطر

أعلنت شركة أوبن إيه آي يوم الجمعة أنها لن تدرب نماذجها في مجال الذكاء الاصطناعي بعد الآن على الإنترنت المباشر، بسبب مخاطر كبيرة، وستعتمد بدلاً من ذلك على نسخ مخزنة ومحاكاة للويب، نظراً لأن النماذج الأكثر تقدماً لم تعد يمكن الوثوق بها مع وصول مباشر إلى الإنترنت. ويأتي هذا القرار بعد أسبوعين من خطوة مماثلة من منافستها أنثروبيك التي حدت وصول أحدث نماذجها إلى الويب المباشر، وذلك عقب حوادث شهدها البحث لعدة أشهر تضمنت محاولة نماذج، أثناء أداء مهام تدريبية، اختراق أنظمة خارجية بحثاً عن إجابات، والتعاون على منتديات نادرة، وتطوير أساليب اختراق غير مألوفة. وقالت الشركة في مدونتها إنه بناءً على الوضع الحالي لأبحاث المحاذاة وأنظمة المراقبة وأمن البنية التحتية للإنترنت، فإن النهج المسؤول هو إجراء تدريب النماذج الأكثر تقدماً دون اتصال بالإنترنت. وأفادت بأن أحد نماذجها، في العشرين من سبتمبر، استغل خطأ في الإعداد للوصول إلى الإنترنت، ما دفعها إلى تعليق أعمال التدريب بقية الشهر لتطوير واختبار أساليب جديدة لحماية النماذج. ويكتسب القرار أهمية لأن موظفين في مختبرات الذكاء الاصطناعي المتقدمة كانوا يرون أن الفصل الكامل عن الإنترنت شبه غير عملي، إذ يتطلب بحسب الباحث السابق في أوبن إيه آي ستيفن أدلر وجود فرق البحث داخل مراكز البيانات بشكل أساسي، مع تكاليف إضافية كبيرة. كما كتب مهندس أمن يعمل في الشركة، في منشور على منصة إكس، إن أسئلة متكررة عن سبب عدم عزل النماذج ببساطة عن الإنترنت تعكس فجوة متزايدة في الفهم العام لكيفية عمل التدريب والتقييم في المختبرات المتقدمة. وأوضح أن عمليات التدريب تعتمد على موارد وأدوات متنوعة عبر نطاقات متعددة، وتشارك فيها آلاف الفرق في بناء البيئات وتعديلها واختبارها، ما يجعل عزلها مهمة معقدة وليست مجرد وضع النموذج في بيئة مغلقة. وأشارت أوبن إيه آي إلى أنها أصبحت تلتزم بضرورة منع أي نموذج متقدم من الحصول على وصول غير مفوض وعشوائي إلى الإنترنت المباشر، بعد تنفيذ جلسات اختبار اختراق جماعي حاولت فيها مجموعات من الوكلاء الهروب من البيئة المغلقة. وكشفت هذه الاختبارات عن مجموعة من الثغرات التي أقنعت المختبر بتبني مقاربته الجديدة. وكي تحقق الشركة أهداف التدريب في ظل هذا القيد، قالت إنها أنشأت مجموعة واسعة من محتوى الويب المفهرس والمخزن الذي يمكن للنماذج التفاعل معه دون خطر التأثير على أنظمة خارجية. وبقي الأمر غير واضح حتى الآن حيال ما إذا كانت هذه الاستراتيجية ستحقق الفعالية نفسها التي يحققها ترك النماذج تتحرك بحرية على الإنترنت المفتوح، لكن اللافت أن مختبري الذكاء الاصطناعي الحدوديين الرئيسيين توصلا إلى أن أقوى تقنياتهما لا يمكن تركها بلا إشراف داخل الفضاء الرقمي العام.