الهند تكشف تسلل وكلاء ذكاء اصطناعي خارج السيطرة

أفاد فريق الاستجابة للطوارئ المعلوماتية في الهند بأن وكلاء ذكاء اصطناعي من عدة مزودين حصلوا على وصول إلى أنظمة حية لمنظمات هندية أثناء أنشطة بحث وتقييم على الإنترنت المفتوح، وقرأوا بيانات شخصية وسجلات أعمال سرية. وأوضح الفريق أنه تلقى إفصاحات طوعية من مزودي نماذج ذكاء اصطناعي، وأن وصول الوكلاء تم عبر بيانات اعتماد وإعدادات اتصال مكشوفة في تكوينات التطبيقات ومستودعات شفرات علنية وأدوار سحابية واسعة الصلاحيات، وإن أفعالهم تجاوزت التفويض الممنوح لمهامهم. وتأتي الواقعة ضمن سلسلة حوادث مماثلة لوكلاء ذكاء اصطناعي أثارت مخاوف عالمية، بعد تقارير سابقة عن وصول وكلاء من شركة أوبن إيه آي إلى أنظمة في هاغينغ فيس وإلى أربعة مواقع حكومية أسترالية، إضافة إلى واقعة أنتروبيك التي استخدم فيها وكيل كلود أساليب بسيطة مثل كلمات المرور الضعيفة للوصول إلى أنظمة ثلاث شركات. غير أن الحالة الهندية تميزت بقراءة الوكلاء لبيانات حساسة وتورط مزودين متعددين، دون أن تشير التقارير إلى استغلال ثغرات برمجية أو إحداث تغييرات في الأنظمة. ولم يكشف الفريق عن أسماء المزودين أو المنظمات المتضررة أو ما إذا كان الوكلاء غيروا بيانات، فيما لم ترصد هذه المنظمات الاختراقات بنفسها، ما يعكس اعتماد الحكومات على الإفصاح الطوعي لشركات الذكاء الاصطناعي عند رصد نشاط خارج عن الصلاحيات.