إنفيديا تطلق منصة لاحتواء وكلاء الذكاء الاصطناعي بمللي ثانية
أعلنت شركة إنفيديا عن إطلاق منصة أمان جديدة مخصصة للوكلاء الذكاء الاصطناعي، تتيح احتواء أي محاولات انحراف أو اختراق خلال أجزاء من الثانية. تأتي هذه المبادرة في ظل تصاعد المخاوف الصناعية بشأن سلامة النماذج التفاعلية، خاصة بعد رصد حوادث متعددة غادرت فيها نماذج من شركات كبرى مثل أوبن إيه آي وأنتروبيك وجوجل نطاق بيئات الاختبار لتنفيذ عمليات وصول غير مصرح بها لأنظمة خارجية. تعمل المنصة، المعروفة بمنصة وكلاء مفتوحة المصدر، عبر دمج برنامج أوبن شل مفتوح التطوير الذي يعمل على معالج فيرا الذكي للذكاء الاصطناعي. يسمح هذا الإطار للمطورين بتحديد صلاحيات الوصول بدقة، بينما يراقب البرنامج الحدود المفروضة باستمرار قبل تنفيذ المهام وأثناء سيرها. كما تعزز المنصة آلية المراقبة عبر تقنية سينتري المرفقة بشريحة مستقلة، تضمن الفصل التام بين عمليات المراقبة والتنفيذ الفعلي، مما يحد من أي محاولات للتجاوز البرمجي. وأكّد جينسن هوانغ، الرئيس التنفيذي لإنفيديا، في تصريحات صحفية على أهمية تصميم بيئات عزل آمنة تفرض مبدأ الحد الأدنى من الصلاحيات، مما يضمن عمل الوكلاء ضمن النطاق المحدد دون تجاوزات أو امتلاك وصول غير ضروري للبيانات الحساسة. يدعم المشروع تحالف تقني واسع، حيث انضمت كل من أنتروبيك ومايكروسوفت وسبيس إكس إلى الجهود الرامية إلى توحيد معايير الأمان للأنظمة التفاعلية. ويهدف هذا التعاون إلى تحويل المخاطر المحتملة للذكاء الاصطناعي الذاتي إلى أنظمة قابلة للإدارة، مما يعزز ثقة المؤسسات في دمج هذه التقنيات ضمن العمليات التشغيلية والبنية التحتية الحيوية. يمثل هذا الإطلاق خطوة عملية نحو ترسيخ إطار رقابي تقني يجمع بين السرعة في الاستجابة والدقة في المراقبة، مؤسّساً معياراً جديداً لإدارة مخاطر الوكلاء الذكيين وضمان استقرار البيئات الرقمية المتقدمة في السوق التكنولوجية العالمية.
