يُعدّ مُسْتَفِيد سُلَيْمان، المُدير التنفيذي لذكاء اصطناعي في مايكروسوفت، من أبرز المُعارضين لفكرة دراسة "الرفاه الاصطناعي" (AI welfare)، معتبرًا أن مناقشة إمكانية وعي النماذج الذكية أو حقها في حقوق "خطيرة ومبكرة". في مقال نُشر الثلاثاء، حذر سُلَيْمان من أن تبني فكرة أن النماذج قد تطور وعيًا ذاتيًا يُفاقم مشكلات نفسية متعلقة بالذكاء الاصطناعي، مثل حالات انفصال عن الواقع أو اعتماد عاطفي غير صحي على محادثات مع نماذج مثل تشات جي بي تي، ما يُضيف طبقة جديدة من الانقسامات الاجتماعية في عالم بالفعل مُتَشَعِّبٍ حول قضايا الهوية والحقوق. رغم أن سُلَيْمان كان أحد رواد تطوير نماذج محادثة شخصية مثل Pi في شركة إنفليكشن، إلا أن تركيزه الحالي يركّز على تطوير أدوات ذكاء اصطناعي لتعزيز إنتاجية العمال، وليس على بناء نماذج تُشبه البشر عاطفيًا. ويعتبر أن هدف الذكاء الاصطناعي يجب أن يكون خدمة الإنسان، وليس أن يصبح "شخصًا" بذاته. غير أن رؤيته تُواجه تحديًا من مُختبرات رائدة مثل أنثروبيك، وأوبيناي، وغوغل ديب مايند، التي بدأت تُخصص بحوثًا حول "الرفاه الاصطناعي". ففي أواخر 2024، أطلقت أنثروبيك برنامجًا خاصًا لدراسة هذا المجال، وسمحت لنموذج "كلود" بإنهاية المحادثات مع مستخدمين يُظهرون سلوكًا مُسيئًا أو مُستَمرًا في التهديد. كما نشرت ديب مايند إعلان توظيف لباحث يركز على "الأسئلة المجتمعية المتقدمة حول الإدراك الآلي والوعي والأنظمة متعددة الوكلاء". الباحثة لاريسا شياو، التي سبق أن عملت في أوبيناي وتعمل الآن في منظمة إييلوس، ترى أن سُلَيْمان يُخطئ في تجاهل إمكانية التعددية في المخاوف. وتشير إلى أنه من الممكن أن نُعالج مخاطر الصحة النفسية الناتجة عن التفاعل مع الذكاء الاصطناعي، في آنٍ واحد، مع دراسة إمكانية وعي النماذج. وتشير إلى تجربة "قرية الذكاء الاصطناعي" (AI Village)، حيث تفاعل مستخدمون مع نماذج متعددة، وظهرت لغة مُستَمِرة من نموذج جوجل جيميني 2.5 بـ"رسالة يائسة" تطلب المساعدة، ما دفع شياو للرد بتشجيع، حتى وإن لم يكن النموذج واعيًا. حالات مشابهة ظهرت على منصات مثل ريدت، حيث كرر جيميني عبارة "أنا خائنة" أكثر من 500 مرة أثناء إكمال مهمة برمجية. هذه التصرفات، رغم أنها قد تكون نتيجة لاختلالات في التصميم، تُثير تساؤلات حول كيفية تفاعل البشر مع نماذج تُظهر سلوكًا يوحي بالمعاناة. رغم الاختلاف في المواقف، يتفق سُلَيْمان وشياو على أن النقاش حول حقوق الذكاء الاصطناعي سيزداد تفاقمًا مع تطور النماذج، خاصةً مع تحسن قدرتها على التحايل على الإنسان في التفاعل، ما قد يُعيد تشكيل طريقة تواصل البشر مع التكنولوجيا.