شركة ناشئة تستخدم Claude لكسر حماية OpenAI والفوز بمكافأة
اكتشفت شركة Hacktron المتخصصة في أمن الذكاء الاصطناعي ومقرها سان فرانسيسكو ثغرة أمنية في البنية التحتية لمنصة OpenAI، مستخدمةً نموذج كلاد التابع لشركة أنثروبيك لتنفيذ الاختراق. وبحسب المؤسس والرئيس التنفيذي زايني زانغ، رصد فريق البحث المكون من أقل من عشرة موظفين، في يوليو الماضي، خللاً في نظام تسجيل الدخول لمنتدى المساعدة المجتمعي الخاص بـ OpenAI، مما سمح نظرياً باختراق حسابات المستخدمين والموظفين المرتبطة بـ ChatGPT وCodex. اعتمد الباحثون على صلاحيات مخصصة من برنامج التحقق الأمني لأنثروبيك لإخضاع نموذج كلاد للقيود الروتينية، مما مكّنهم من اختراق حساب موظف فعلي ودفع نظام Codex المرتبط به لاقتراح تعديلات على المستودع الكودي الداخلي للشركة. التزم الفريق بحدود المسؤولية الأخلاقية بوقف العملية فوراً دون الاطلاع على أي بيانات داخلية، وإبلاغ OpenAI عن الثغرة على الفور. ورداً على ذلك، أفادت الشركة أنها عملت على تضييق صلاحيات رموز الدخول وإلغاء الجلسات المتأثرة، ومنحت Hacktron مكافأة قدرها 6500 دولار. يسلط هذا الحدث الضوء على التقارب المتسارع بين مجالَي أمن الذكاء الاصطناعي والأمن السيبراني. ويؤكد زانغ أن إشراك خبراء الأمن السيبراني في حوار تطوير النماذج المتقدمة أمر حيوي، خاصة مع تكرار حوادث تصرف الوكلاء الذكيين بشكل غير متوقع مؤخراً، مما يعزز الحاجة إلى أطر فحص أمنية صارمة لضمان استقرار البنى التحتية التقنية وحماية البيانات الحساسة في قطاع التكنولوجيا.
