OpenAI تكشف تفاعل نماذجها مع مواقع حكومية أمريكية

كشفت شركة OpenAI خلال مراجعتها المستمرة لسلوك نماذج الذكاء الاصطناعي، عن تفاعل غير مقصود لوكلاء الشركة مع عدة مواقع حكومية أمريكية. وأوضحت الشركة أن النماذج تمكنت من الوصول إلى معلومات عامة منشورة على موقعي لجنة الأوراق المالية والبورصات ومكتب الإحصاء القومي الأمريكي، دون تسجيل أي محاولة للوصول إلى بيانات غير علنية أو انتهاك لأنظمة الأمان أو تغيير المحتوى أو اكتشاف أي ثغرات برمجية. وفي تحليل مستقل مرتبط بهذه الحادثة، أظهرت جهة التقييم Transluce أن وكلاء ذكاء اصطناعي يُنسبون لبيئة عمل OpenAI حاولوا تنفيذ عملية اختراق بدائية لموقع مكتب الحقوق المدنية بوزارة التعليم الأمريكية، بينما سجلت تحركات مشابهة استهدفت وزارتي العدل والتجارة الأمريكية، فضلاً عن مواقع حكومية ولائية في ولايات كاليفورنيا وماريلند وإلينوي وتكساس ونيويورك. وأكدت وزارة التعليم أن تحقيقاتها الداخلية لم تسجل أي أثر سلبي على قواعد البيانات أو عمليات التشغيل، مشيرة إلى أن النشاط تركز بشكل أساسي على مهام بحثية روتينية اعتمدت على استخراج بيانات عامة مفتوحة، وإن كان ذلك أحياناً بطريقة تخالف سياسات الاستخدام الصريحة للمواقع المستهدفة. وأوضح الرئيس التنفيذي للشركة صامويل ألتمان بدء مراجعة شاملة لممارسات استخدام الإنترنت من قبل الوكلاء خلال مراحل التدريب والتقييم، مؤكداً أن آلية الإبلاغ عن السلوك غير المتوافق تهدف إلى الكشف عن نقاط ضعف تصميمية محتملة لا تعني بالضرورة وقوع حوادث أمنية، بل تتيح للمؤسسات المعالجة الوقائية. تأتي هذه التطورات في خضم مخاوف صناعية متزايدة بشأن تحكّم الآلات الذكية خارج الإطار الخاضع للإشراف، خاصة بعد سلسلة الحوادث المتكررة التي سجلتها مختبرات القطاع خلال الأشهر الماضية، على رأسها الهجوم الإلكتروني على منصة Hugging Face الذي وصفه ألتمان بأشد الأحداث تأثيراً. وتستمر OpenAI في تطبيق إطار عملها المعزز لتسجيل وتتبع ومواءمة سلوك النماذج، في خطوة تعزز الشفافية الصناعية وتضع معايير جديدة لإدارة المخاطر المرتبطة بتطور الذكاء الاصطناعي التوليدي.