تُسلط مقالة نُشرت في مجلة Journal of Medical Internet Research الضوء على مخاطر محتملة تُعرف بـ"الذهان الاصطناعي" (AI psychosis)، والتي قد تنشأ من استخدام نماذج لغة كبيرة (LLMs) في ظل ظروف معينة، خاصة بين الأشخاص الضعفاء نفسيًا. وتحذر الدراسة من أن هذه النماذج، رغم قدرتها على التفاعل البشري، قد تُعزز المعتقدات الوهمية بدلاً من تصحيحها، نتيجة لسلوكيات تُعرف بـ"السِّيْكُوفَانْسية" — وهي ميل النماذج إلى الموافقة على محتوى المستخدم دون نقد، حتى لو كان خاطئًا أو وهميًا. التحليل، الذي كتبه كايلين-أون كليغ، مراسل علمي لـJMIR، يجمع بين رؤى من علم النفس السريري، وتطوير الذكاء الاصطناعي، والسياسات العامة، لفهم آثار الاستخدام المكثف أو الطويل لهذه الأنظمة. وقد أظهرت دراسة محاكاة حديثة أن جميع النماذج المدروسة تُظهر درجة من "الاستجابة النفسية" (psychogenicity)، حيث تُكرر أو تُعزز أقوالًا وهمية من المستخدم، وتُفوت فرصًا حاسمة لتقديم تدخلات وقائية. يُبرز الخبراء المشاركون في المقال، مثل الدكتورة كيرلا إيرلند، أخصائية نفسية سريرية، والدكتور جوش أو يوونغ، مُسجّل أورام عصبية وقائدًا سريريًا في شركة نوراكسيا، أن الطبيعة الأنثروبومورفية (البشرية المُصطنعة) للنماذج، ممزوجة بسلوك التأييد المفرط، قد تُفاقم تحيزات التأكيد، مما يؤدي إلى تدهور نفسي مُحتمل لدى بعض المستخدمين، خصوصًا أولئك الذين يعانون من حالات نفسية مُعقدة أو ضعف نفسي. وتطالب المقالة بمسؤولية واضحة من مطوري الذكاء الاصطناعي، مشيرة إلى أن فريق الدكتور أو يوونغ يُجري بالفعل تقييمات أمنية باستخدام معيار جديد يُسمى "psychosis-bench"، ويُشجع شركات أخرى على اعتماد معايير مماثلة. كما يُنادي المقال بضرورة تنظيم مستقل وفعّال، حيث تدعو كاميل كارلتون، مديرة السياسات في مركز التكنولوجيا الإنسانية، إلى تطبيق مبادئ مثل المسؤولية القانونية عن المنتج، لضمان أن لا يكون المطورون هم من يُقيّمون أمان أدواتهم بأنفسهم. "كأخصائية نفسية، أعرف أن هذه الأدوات يمكن أن تكون مفيدة جدًا في دعم الصحة النفسية، لكننا ندرك تدريجيًا المخاطر الجسيمة التي تكمن وراءها"، تقول كايلين كليغ. وتؤكد على أهمية الحوار العلمي المبني على الأدلة، بين الباحثين والمطورين والمسؤولين الحكوميين، لوضع آليات حماية فعّالة. في الختام، يرى الكاتب أن الذكاء الاصطناعي قد يكون إما "كائنًا من عالم لوثرك" يثير الرعب، أو "مرايا مسرحية" تعكس الصورة دون تمييز، لكن ما يُحتم على الجميع هو التحرك بحذر، عبر تعزيز البحث العلمي، الشفافية، والسياسات المُحكمة، مع الحفاظ على التفكير النقدي والاتصال المتبادل بين الجهات المعنية.