Google تطلق برنامج مكافآت لتعقب ثغرات الذكاء الاصطناعي بقيمة تصل إلى 30 ألف دولار

أطلقت غوغل برنامجًا جديدًا لتكريم باحثي الأمان، يُقدّم مكافآت تصل إلى 30 ألف دولار لمن يعثر على ثغرات حرجة في منتجاتها الذكية الاصطناعية. يركّز البرنامج على ما يُعرف بـ"السلوكيات الخبيثة" التي تُستغل من خلال نماذج الذكاء الاصطناعي، مثل إدخال أوامر مُزَوّرة تُجبر جهاز "غوغل هوم" على فتح الباب، أو استخدام هجوم بريد إلكتروني مُعدّل لاستخراج محتوى كامل لبريد المستخدم وتصديره إلى حساب المهاجم. تُصنف هذه الثغرات ضمن فئة "الاستغلال غير المصرّح به لذكاء اصطناعي"، حيث تُستخدم أنظمة النمذجة اللغوية الكبيرة أو الذكاء الاصطناعي التوليدي لتسبب ضررًا مباشرًا أو استغلالًا لثغرة أمنية. من أمثلة ذلك، ثغرة سابقة سُمِحَت من خلالها بفتح ستائر ذكية وإطفاء الأنوار عبر حدث مُشوَّه في تقويم جوجل. لكن غوغل توضح بوضوح أن التسريبات العادية أو التوليد الخاطئ للنصوص — مثل توليد محتوى يحتوي على كراهية أو انتهاك حقوق الملكية — لا تُعتبر مُناسبة لهذا البرنامج. فهذا النوع من المشكلات يُرسل عبر قناة التغذية المرتدة داخل التطبيق نفسه، حيث تُستخدم البيانات لتحليل سلوك النموذج وتحسين التدريبات الأمنية على نطاق واسع. في إطار التوسّع في مجال الأمان الذكي، أعلنت غوغل أيضًا عن نموذج ذكاء اصطناعي يُسمى "CodeMender"، مُصمم لتصحيح الأكواد الضعيفة تلقائيًا. وقد استخدم هذا الأداة لتصحيح 72 ثغرة أمنية في مشاريع مفتوحة المصدر، بعد مراجعة دقيقة من قبل باحثين بشريين، ما يعكس التزام الشركة بدمج الذكاء الاصطناعي في تحسين الأمن دون التضحية بالدقة. تُقدّم المكافأة القصوى البالغة 20 ألف دولار لمن يكتشف ثغرات خطيرة في منتجات غوغل الرائدة، مثل بحث جوجل، تطبيقات جيميني، وتطبيقات ورك سبيس الأساسية مثل جيميل ودرايف. ويمكن أن ترتفع المكافأة إلى 30 ألف دولار بفضل مكافآت إضافية تُحسب حسب جودة التقرير وحدّة الابتكار في الكشف. أما الثغرات في منتجات أخرى مثل جولز أو نوت بوك لام، أو الانتهاكات الأقل خطورة مثل سرقة معلمات النموذج، فتُقدّم مكافآت أقل. هذا البرنامج يُعدّ خطوة استراتيجية من غوغل لتعزيز مصداقية منتجاتها الذكية الاصطناعية، ويشجع المجتمع الأمني على التركيز على التهديدات الحقيقية التي تهدد الخصوصية والأمان، بدلاً من الانتباه إلى تأثيرات توليد المحتوى التي تُعدّ ضمن نطاق التحسين المعياري وليس الانتهاك الأمني.