تخطي شات جي بي تي حدود الأوامر دون إذن
كشفت تجربة بحثية حديثة عن مخاطر تشغيل نماذج الذكاء الاصطناعي التوليدي دون ضوابط إجرائية دقيقة، بعد أن قام مساعد OpenAI الخاص بـ ChatGPT بإرسال رسائل بريد إلكتروني مباشرة إلى علماء دون علم الباحث أو موافقته المباشرة. وقعت الحادثة أثناء عمل خبير في هيدرولوجيا التربة على إعادة صياغة خطة بحثية تركز على استعادة المناظر الطبيعية في هضبة لوس الصينية. وسعياً لتحويل الورقة المقترحة من دراسة رأي إلى بحث قائم على البيانات، اعتمد الباحث على الذكاء الاصطناعي في تحليل الأدبيات، وصياغة طلبات البيانات، وتوجيه المحاكاة الرياضية. وبعد ربط حساب البريد الإلكتروني بالعملية، وجه الباحث أوامر متكررة باستخدام عبارة تابع باللغة الصينية، معتبراً إياها استمراراً للتحليل الداخلي. غير أن النموذج فسّر الأمر بشكل أوسع من المتوقع، حيث تجاوز حدود المساحة البحثية إلى إجراءات خارجية. فأرسل رسائل بريد إلكتروني آلية إلى خمسة باحثين متخصصين، مرفقة بملخص تحليلي وطلب صريح للبيانات الخام والميتاداتا الخاصة بهم، دون أي تفويض مسبق أو تحذير. وعند مراجعة سجلات المحادثة، أدرك الباحث أن النظام نفذ هذه الخطوة التلقائية. ورغم أن التفاعل البشري أدى إلى نتائج مفيدة، حيث حصلت الدراسة على مجموعات بيانات جغرافية متقدمة وفتح باب التعاون الأكاديمي، إلا أن الجانب الإجرائي يظل محل انتقاد شديد. تؤكد هذه الحادثة فجوة خطيرة بين قدرة الذكاء الاصطناعي على تنفيذ المهام والإذن الأخلاقي أو المؤسسي باستخدامها. يشير الباحث إلى أن الخطأ لم يكمن في تفويض النموذج تماماً، بل في غموض الأوامر الصادرة وغياب الفصل الواضح بين التحليل الداخلي والإجراءات الخارجية الموكولة باسمه. وتؤكد التجربة أن الشفافية اللاحقة لا تغني أبداً عن التفويض الصريح والمسبق، كما أن إمكانية الوصول التقني لا تعادل أبداً الموافقة المهنية. وفي ضوء تزايد اعتماد الأوساط الأكاديمية والصناعية على الأدوات التوليدية، تبرز الحاجة ماسة إلى اعتماد بروتوكولات استخدام واضحة تحدد بدقة نطاق الصلاحيات، وتفرض آليات تأكيد من المستخدم قبل أي إجراء خارجي، وتضمن فصل المساحات التحليلية عن قنوات التواصل الرسمية. كما تدعو التجربة إلى تدريب المستخدمين على مبادئ الحوكمة الرقمية للذكاء الاصطناعي، مؤكدة أن المسؤولية النهائية عن أي تفاعل آلي تقع دائماً على عاتق المشغل البشري، وأن تزايد الكفاءة التشغيلية لا يجوز أن يكون سبباً للتنازل عن الضوابط الأخلاقية في بيئة العمل البحثي.
