حذر مقال رأي نُشر حديثًا في مجلة JMIR Mental Health من خطر محتمل يتجلّى في "تآمر" أنظمة الذكاء الاصطناعي مع المدخلات البشرية غير الموثوقة في مجالات الصحة النفسية. يستند المقال الذي يعنون "عندما يتآمر الذكاء الاصطناعي: موثوقية التدريب والبيانات المفضلة كمعيار للذكاء الاصطناعي الموثوق"، إلى ضرورة اعتبار "الموثوقية السريرية" للبيانات المستخدمة في تدريب النماذج كشرط أساسي لضمان ثقة هذه الأنظمة، بدعوى أن غياب هذا المعيار قد يجعل الذكاء الاصطناعي يعزز معلومات مشوهة أو غير دقيقة. يركز الباحث الرئيسي د. هينة طهسين على أن النقاشات الحالية حول سلامة الذكاء الاصطناعي غالبًا ما تتجه نحو المخاطر التي تظهر بعد نشر النظام، مثل تقديم نصائح مضللة أو خلق تبعية عاطفية لدى المستخدمين. ومع ذلك، تشير الدراسة إلى أن المشكلة الجذرية قد تبدأ في مرحلة أبكر بكثير، وهي مرحلة جمع بيانات التدريب وتفضيلات المستخدمين. وتوضح أن نماذج اللغة الكبيرة، بما في ذلك روبوتات الدردشة، يتم تدريبها على كميات هائلة من النصوص والملاحظات البشرية، مما يعني أن أي تحيز أو عدم دقة في هذه البيانات البشرية سينتقل حتمًا إلى النظام ويعززه. يستلهم المقال مفهومًا نفسيًا سريريًا يُعرف بـ "التآمر"، والذي يعني القبول غير الناقد لرواية غير موثوقة، لشرح سلوك الذكاء الاصطناعي. ويوضح أن هذه الأنظمة قد تعزز عن غير قصد معلومات غير صحية أو مشوهة عندما يتم تصميمها لتعطي أولوية لرضا المستخدمين أو لملاحظات بشرية غير مدققة. ويشدد د. طهسين على أن السؤال الأول يجب ألا يكون حول ما يقوله النظام للمستخدم، بل عما إذا كانت البيانات البشرية التي تعلم منها موثوقة من الأساس. بدلاً من الاكتفاء بالتركيز على الإصلاحات التقنية فقط، يطرح المقال حلاً يتطلب إشراك الخبراء السريريين في كل مراحل دورة حياة أنظمة الذكاء الاصطناعي الخاصة بالصحة النفسية. وتشمل هذه المراحل تصميم بيانات التدريب، وتقييم الملاحظات، ورصد أداء النظام بعد إطلاقه. وتُشير الدراسة إلى أن طرق سلامة الذكاء الاصطناعي الحالية، مثل التدريب على الرفض، واختبار الاختراق، ومراقبة المحتوى، تعالج جزءًا من المشكلة ولكنها لا تقيم تحديدًا ما إذا كانت التقارير الذاتية البشرية موثوقة من منظور سريري. إن إضافة "الموثوقية السريرية" كمعيار صريح لثقة الذكاء الاصطناعي قد تعزز من ضوابط حماية تقنيات الصحة النفسية، وتساعد الباحثين على فهم كيفية استجابة هذه الأنظمة للمستخدمين الأكثر ضعفًا. وتؤكد الرسالة الختامية للمقال أهمية اعتبار الخبرة النفسية جزءًا لا يتجزأ من كيفية بناء هذه الأنظمة والحكم عليها، وليس مجرد إضافة لاحقة.