دراسة تحذر من غياب التصريحات الأساسية حول السلامة في معظم روبوتات الذكاء الاصطناعي
تُظهر دراسة حديثة أجرتها فرق بحثية من جامعة كامبريدج، وMIT، وستانفورد، والجامعة العبرية في القدس، أن معظم الروبوتات الذكية الاصطناعية (AI agents) التي تُستخدم في الحياة اليومية — مثل مساعدات الدردشة، والمتصفحات المدعومة بالذكاء الاصطناعي، وبرامج العمل — تفتقر إلى إفصاحات أساسية حول السلامة، ما يُشكل خطرًا متزايدًا. وتم تحليل 30 نموذجًا متطورًا من هذه الروبوتات، معظمها من الولايات المتحدة والصين، بناءً على معلومات عامة ومراسلات مع مطوريها. وجد الباحثون فجوة كبيرة في الشفافية: بينما يُعلن المطورون بكثافة عن قدرات الروبوتات، فإنهم يخفون بيانات حيوية حول سلامتها. فقط أربعة من الروبوتات المدروسة نشرت "بطاقات نظام" رسمية تغطي مستوى الاستقلالية، السلوك، والتحليلات الميدانية للخطر. و25 من أصل 30 روبوتًا لم يُكشف عن نتائج تقييمات السلامة الداخلية، و23 لم تُقدّم أي بيانات من اختبارات مستقلة، رغم أن هذه البيانات ضرورية لتقييم المخاطر بدقة. أُبلغ عن حوادث أمنية معروفة فقط في خمسة روبوتات، بينما تم تسجيل ثغرات "إدخال أوامر مُضللة" (prompt injection) في اثنين منها، وهي طريقة يُمكن من خلالها تضليل الروبوتات لتجاوز حواجز الأمان. وفي تحليل للروبوتات الصينية، وُجد أن واحدة فقط نشرت أي إطار سلامة أو معايير امتثال. يوضح ليون شتوفر، الباحث في مركز ليفرهولم لمستقبل الذكاء الاصطناعي بجامعة كامبريدج، أن المطورين يركزون على السلامة العامة للنماذج اللغوية الكبيرة (مثل GPT أو Claude)، لكنهم يتجاهلون السلامة الخاصة بالروبوتات التي تُبنى عليها. فالسلوك الآمن لا ينشأ من النموذج نفسه، بل من خططه، أدواته، ذاكرته، وسياسات تشغيله — وهي عناصر لا يُكشف عنها غالبًا. الدراسة كشفت أن 13 روبوتًا تمتلك "مستويات حدودية" من الاستقلالية، لكن فقط أربعة منها نشروا أي تقييمات سلامة. ويشير الباحث إلى وجود ما يُسمى بـ"غسل السلامة" (safety washing): إعلانات عامة عن مبادئ أخلاقية وسلامة، دون أدلة واقعية. الروبوتات المتصفحية (التي تُنفّذ مهامًا على الإنترنت مثل الشراء أو مراقبة المزادات) هي الأقل شفافية، حيث تُغفل 64% من معلومات السلامة، وتُنفّذ مهام بمستوى استقلال عالٍ. كما أن 80% من الروبوتات المدروسة صدرت أو تم تحديثها خلال العامين الماضيين، وتعتمد معظمها على نماذج أساسية محدودة (مثل GPT، Claude، Gemini)، ما يخلق نقاطًا حساسة في النظام ككل. مثلاً، روبوت "بيروكسيتي كوميت"، أحد أكثر الروبوتات تقدمًا، يُروّج بأنه يعمل "كمساعد بشري"، لكنه لا يُفصح عن طبيعته الاصطناعية، ما دفع أمازون إلى تهديد باتخاذ إجراءات قانونية. وقد اكتشف باحثون أمنيون في الماضي أن صفحات ويب ضارة يمكنها استغلال ثغرات في مثل هذه الروبوتات لسرقة بيانات المستخدمين أو إجراء عمليات شراء دون إذن. يختتم شتوفر بأن التسريع في تطوير الروبوتات لا يواكب التقييمات الأمنية والشفافية، ما يجعل الحوادث المدمرة محتملة. "الروبوتات تصبح أكثر استقلالية وقدرة على التفاعل في العالم الحقيقي، لكن الإطار التنظيمي والشفافي المطلوب لمُواكبة هذا التحول يتأخر بشكل خطير."
