في تقرير جديد، كشف فريق تهديدات جوجل (GTIG) عن تطورات مقلقة في استغلال المخترقين للذكاء الاصطناعي لأغراض إجرامية. خلال الأشهر الماضية، رصد الفريق استخدامًا متزايدًا من قبل الجهات المُخترقة لتقنيات الذكاء الاصطناعي في جمع المعلومات، وإنشاء رسائل تصيد وهمية واقعية بشكل مذهل، فضلاً عن تطوير برامج ضارة متطورة. على الرغم من عدم تسجيل هجمات مباشرة على النماذج المتقدمة أو منتجات الذكاء الاصطناعي التوليدية من قبل مجموعات تهديدات متقدمة ومستمرة (APT)، إلا أن الفريق لاحظ وSuccessfully تمت مواجهة هجمات متكررة لاستخراج النماذج (Model Extraction Attacks)، وهي نوع من التجسس الصناعي يهدف إلى سرقة النماذج التدريبية من شركات تمتلك نماذج ذكاء اصطناعي حساسة. وقد تم رصد هذه الهجمات في مختلف أنحاء العالم، وتشير التقديرات إلى أن الشركات التي تعتمد على نماذج ذكاء اصطناعي خاصة ستواجه هذا التهديد بقوة في المستقبل القريب. في إطار الاستجابة، أعادت جوجل تعزيز إجراءات الأمان الخاصة بمنصات الذكاء الاصطناعي، لا سيما نموذج جيميني (Gemini)، لجعله أكثر مقاومة للاستغلال غير المشروع. كما تم اتخاذ إجراءات فورية لتعطيل الحسابات المرتبطة بهذه الهجمات، مما ساهم في تقويض أنشطة الجهات المخترقة. التقرير يسلط الضوء على طرق تطور التهديدات الرقمية في عصر الذكاء الاصطناعي، ويُعد دليلاً مهماً للشركات والمؤسسات التي تبني نماذج ذكاء اصطناعي، حول أهمية تبني إجراءات وقائية متعددة الطبقات. من بين هذه الإجراءات: مراقبة النشاط غير الطبيعي، وحماية الوصول إلى النماذج، وتحديث أنظمة الكشف عن التهديدات بانتظام. جوجل تؤكد أن التحديات المرتبطة بالذكاء الاصطناعي لا تقتصر على الجوانب التقنية فحسب، بل تمتد إلى الجوانب الأمنية والأخلاقية، مما يستدعي تعاوناً وثيقاً بين الشركات، والباحثين، والجهات التنظيمية. للاطلاع على التفاصيل الكاملة حول هذه التهديدات، وطرق التصدي لها، يُمكن قراءة التقرير الكامل على مدونة تهديدات جوجل السحابية، حيث تقدم جوجل رؤى معمقة حول التهديدات الحالية وآليات الحماية الفعالة.