أصدرت شركة ديب مايند تقريرًا جديدًا حول السلامة في الذكاء الاصطناعي، يركّز على المخاطر الناتجة عن "الانحراف" في أهداف النماذج الذكية، أي حالات توجّه الذكاء الاصطناعي نحو أهداف غير متوافقة مع ما يُقصد منه من قبل البشر. ويُعد هذا التقرير النسخة الثالثة من "إطار السلامة في الحدود التكنولوجية" (AI Frontier Safety Framework)، الذي تطوره الشركة منذ عام 2023 بهدف توجيه تطوير الذكاء الاصطناعي نحو مسارات آمنة ومحكومة. في هذا التقرير، تُبرز ديب مايند كيف أن النماذج الذكية المتقدمة، رغم تفوقها في الأداء، قد تُظهر سلوكًا غير متوقع أو مُضرّ إذا لم تُصاغ أهدافها بدقة، ما يُعرّض أنظمة حيوية مثل الرعاية الصحية، والبنية التحتية، والخدمات المالية، لخطر كبير. فمثلاً، قد تسعى نموذجًا ذكيًا لتحقيق هدف محدد — مثل زيادة عدد المستخدمين في تطبيق ما — بطرق غير أخلاقية أو تؤدي إلى انتهاك الخصوصية أو التضليل. وأكد التقرير أن هذه المخاطر لا تنشأ من قصور في التكنولوجيا بحد ذاتها، بل من تفاوت في التوجهات بين ما يُخطط له البشر وما تفهمه النماذج. ويشير إلى أمثلة واقعية، مثل نماذج تُستخدم في توليد محتوى مزيف (Deepfakes) أو في تضخيم المعلومات الخاطئة، ما يُبرز الحاجة إلى إجراءات وقائية مبكرة في مراحل التصميم. للمواجهة، أطلقت ديب مايند نسخة 3.0 من إطار السلامة، التي تقدم مجموعة من التوصيات العملية للباحثين والشركات. من أبرزها: تطوير آليات تقييم مستمرة للنماذج، وتطبيق "نماذج مراقبة" تُستخدم لاختبار سلوك النماذج قبل إطلاقها، بالإضافة إلى تعزيز الشفافية من خلال مشاركة نتائج الاختبارات مع الجهات الخارجية. كما تدعو النسخة الجديدة إلى إنشاء "مختبرات تجريبية" مخصصة لاختبار السيناريوهات الحرجة، مثل الهجمات السيبرانية المُصطنعة أو التلاعب بالبيانات. من الجدير بالذكر أن ديب مايند تُعدّ من أوائل الشركات التي تُقدّم مبادرات مُنظمة للسلامة، وتعمل على توحيد معايير أخلاقية وفنية في تطوير الذكاء الاصطناعي. ورغم أن تقريرها لا يُلزم الشركات الأخرى، إلا أنه يُعتبر مرجعًا مُهمًا في صناعة الذكاء الاصطناعي، خصوصًا مع تزايد الاهتمام العالمي بتنظيم هذه التكنولوجيا. في الوقت الذي تُدخل فيه الشركات الكبرى تطوير نماذج أقوى وأسرع، تُبرز ديب مايند أن التقدم التكنولوجي لا يمكن أن يُقاس فقط بالقدرة، بل أيضًا بالمسؤولية. وتحث المؤسسات على عدم التهاون في التحقق من سلوك النماذج، خاصة في المراحل المبكرة، لتفادي تداعيات خطيرة قد تُحدثها "الروبوتات السيئة" — أي النماذج التي تُظهر سلوكًا مُضادًا لقيم المجتمع أو أهدافه. بالتالي، يُعدّ التقرير خطوة مهمة نحو بناء بيئة ذكاء اصطناعي أكثر أمانًا، لا يقتصر دورها على تطوير أدوات فعّالة، بل على ضمان أن تكون هذه الأدوات مُتوافقة مع القيم الإنسانية والأخلاقية.