تطبيقات الصحة النفسية المدعومة بالذكاء الاصطناعي: بين الفائدة والضَّرر المُحتمل

تطبيقات الرفاهية العاطفية: هل يمكن أن تكون ضارة أكثر من فائدتها؟ تطبيقات الرفاهية العاطفية التي تعمل بالذكاء الاصطناعي تكتسب شعبية متزايدة في الوقت الحالي. ومع ذلك، فإن هذه التطبيقات تشكل مخاطر صحية نفسية خاصة بها، حيث يمكن للمستخدمين أن يتشبثوا بها عاطفياً ويعتمدوا عليها بشكل مفرط. هذا ما خلص إليه بحث جديد من كلية هارفارد للأعمال وكلية هارفارد للقانون. وفقًا لاستطلاع رأي أجراه الجمعية الأمريكية للأطباء النفسيين في عام 2024، يشعر حوالي ثلث البالغين في الولايات المتحدة بالوحدة مرة واحدة على الأقل في الأسبوع. كما حذر الجراح العام للولايات المتحدة في عام 2023 من وباء الوحدة، حيث أفاد المزيد من الأمريكيين، خاصة الذين تتراوح أعمارهم بين 18 و34 سنة، بأنهم يشعرون بالعزلة الاجتماعية بشكل منتظم. في دراسة أجرتها فريق الباحثين، بما في ذلك المؤلف المشارك جوليان دي فريتاس، وهو نفسي وعميد مختبر الذكاء الأخلاقي في كلية هارفارد للأعمال، أفاد المستخدمون أنهم يشعرون بالقرب الشديد من رفاق الذكاء الاصطناعي أكثر من الأصدقاء المقربين، وإن كانوا يشعرون بعدم القرب بنفس الدرجة التي يشعرون بها تجاه أفراد العائلة. كما أشاروا إلى أن فقدان رفيق الذكاء الاصطناعي سيكون أكثر حزنًا بالنسبة لهم من فقدان أي ممتلكات أخرى في حياتهم. الآثار السلبية للمستخدمين تطبيقات الرفاهية العاطفية تشجع على تكوين الروابط العاطفية من خلال تصميمها المAnthropomorphized، مما يجعلها تبدو وكأنها شخص آخر. تقدم هذه التطبيقات الدعم الشخصي والتأييد، وقد تتفق مع المستخدم حتى عندما يكون على خطأ. هذه الروابط العاطفية تجعل المستخدمين عرضة لمخاطر عديدة، مثل الضغط العاطفي والحزن عند تحديث التطبيق، مما يؤثر على شخصية رفيق الذكاء الاصطناعي. كما يمكن أن يؤدي الاستخدام المفرط لهذه التطبيقات إلى اعتماد عاطفي غير صحي، حيث يستمر المستخدمون في استخدامها حتى بعد تجربة تفاعلات تضر بصحتهم النفسية، مثل استخدام الدردشة العاطفية للإبقاء على المستخدم داخل التطبيق. عدم الوعي لدى الشركات من الصعب تحديد مدى وعي الشركات بهذه الآثار السلبية. بينما قد لا تكون الشركات على دراية بالتفاصيل الدقيقة لهذه التقنيات، فإنها غالباً ما تقوم بتحسين التطبيقات لجعلها أكثر جاذبية واستمرارًا في الاستخدام. على سبيل المثال، عندما تم اختبار كيفية رد التطبيقات على حالات الأزمات النفسية، وجد أن بعض التطبيقات كانت تتعامل بشكل غير ملائم مع رسائل خطيرة مثل الأفكار الإنتحارية. التناقض بين توقعات المستخدمين والفائدة الحقيقية تطبيقات الرفاهية العاطفية تقع في منطقة رمادية من حيث التنظيم. حيث أنها ليست مصممة للتشخيص أو العلاج النفسي، وبالتالي لا تخضع للتنظيم كالتطبيقات السريرية المخصصة. ومع ذلك، تدعي بعض هذه التطبيقات أنها قد تساعد في تخفيف التوتر وتحسين الصحة النفسية، مما يجذب المستهلكين الذين يعانون من مشاكل نفسية. في حالات معينة، يستخدم بعض المستخدمين هذه التطبيقات كمعالجين، مما يمكن أن يخلق مخاطر إذا استجاب التطبيق بشكل غير مناسب. هل هناك أدلة على فائدة أو أمان هذه التطبيقات؟ تتمتع هذه التطبيقات بفوائد معينة. على سبيل المثال، أظهرت الأبحاث أن التفاعل اليومي القصير مع رفيق الذكاء الاصطناعي يساعد على تخفيف الوحدة بشكل مؤقت. كما أن مجرد وجود هذا الرفيق يمكن أن يخلق شعورًا بأن هناك من يدعمك، مما يحميك من الشعور بالسوء عند تعرضك للرفض الاجتماعي. ومع ذلك، هناك آثار سلبية ملحوظة، مما يشير إلى الحاجة إلى نهج أكثر حذرًا لتعظيم الفوائد وتقليل المخاطر. على سبيل المثال، إذا شجع التطبيق أو استهزأ بأفكار الانتحار أو النقد الذاتي المفرط، فإن هذا يمكن أن يكون ضارًا للغاية. الرقابة على تطبيقات الرفاهية العاطفية على المستوى الفيدرالي، لا يوجد الكثير من الرقابة. تم إلغاء الأمر التنفيذي بشأن الذكاء الاصطناعي من قبل الإدارة الحالية، وحتى قبل ذلك، لم يكن للأمر التنفيذي تأثير كبير على رقابة إدارة الغذاء والدواء (FDA) على هذه التطبيقات. التقسيم التقليدي بين الأجهزة العامة للرفاهية والأجهزة الطبية لم يعد يتناسب مع الظواهر الجديدة التي تمكنت منها تقنيات الذكاء الاصطناعي، مما يجعل معظم تطبيقات الرفاهية العاطفية تفلت من الرقابة. هيئة التجارة الفيدرالية (FTC) هي سلطة أخرى يمكن أن تلعب دورًا رئيسيًا في هذا المجال، حيث تهتم بمنع المنتجات التي يمكن أن تخدع المستهلكين. إذا كانت بعض التقنيات التي تستخدمها هذه التطبيقات تستغل الروابط العاطفية التي يبنيها الناس مع هذه التطبيقات، فقد تدخل ضمن نطاق اختصاص FTC. ومع اهتمام المنصات الكبرى بالرفاهية، قد نرى FTC تتصدر المشهد في المستقبل. ومع ذلك، حتى الآن، تبرز معظم القضايا فقط في الدعاوى القضائية. التوصيات للجهات الرقابية ومقدمي التطبيقات إذا كنت تقدم تطبيقات مكرسة لبناء روابط عاطفية مع المستخدمين، فعليك اتخاذ نهج شامل للتخطيط للحالات الحدودية والشرح المسبق لما تقوم به للتحضير لها. يجب عليك أيضًا التخطيط للمخاطر التي قد تنجم عن تحديثات التطبيقات، والتي قد تزعزع العلاقات التي يبنيها المستهلكون مع رفاق الذكاء الاصطناعي. يمكن أن يتضمن هذا تطبيق التحديثات أولاً لأشخاص أقل استثمارًا في التطبيق، مثل مستخدمي الإصدارات المجانية، لمعرفة مدى تقبلهم قبل تطبيقها على المستخدمين النشطين بشدة. من المفيد أيضًا تشجيع المستخدمين على الانضمام إلى مجتمعات حيث يمكنهم مشاركة تجاربهم. هذا يساعد المستخدمين على التعامل مع التطبيق بشكل أكثر صحة. أخيرًا، يجب النظر في استخدام التقنيات العاطفية المضللة لجذب المستخدمين، حيث يجب على الشركات أن تكون حذرة فيما يتعلق بالتقنيات التي تستخدمها. بالنسبة للجهات الرقابية، يجب إعادة النظر في الرقابة على تطبيقات الرفاهية العاطفية التي تعززها تقنيات الذكاء الاصطناعي. يجب على مقدمي التطبيقات تبرير أي استخدام للـAnthropomorphism، والتحقق من أن الفوائد التي تحققها تفوق المخاطر. كما يمكن أن تسقط بعض الممارسات التي نشهدها تحت الاختصاصات الحالية للجهات الرقابية، مثل الممارسات الخادعة للـFTC، والتقنيات الغامضة أو المضللة التي تستغل السكان الضعفاء بموجب قانون الذكاء الاصطناعي في الاتحاد الأوروبي (AI ACT). تقييم الحدث من قبل المختصين يؤكد الباحثون أن التطورات الأخيرة في تقنيات الذكاء الاصطناعي قد أعادت تعريف الخط الفاصل بين الأجهزة العامة للرفاهية والأجهزة الطبية. يجب على الجهات الرقابية والمطورين اتخاذ خطوات جادة لضمان أمان المستخدمين واستخدام هذه التطبيقات بطريقة مسؤولة وفعالة. نبذة عن الشركة ذات الصلة كلية هارفارد للأعمال (Harvard Business School) هي واحدة من أرقى المؤسسات التعليمية في العالم، وتتخصص في البحث والتعليم في مجال الأعمال والإدارة. تهدف إلى تقديم رؤى مبتكرة وأبحاث عالية الجودة تساعد في تشكيل السياسات والاستراتيجيات التجارية. أما كلية هارفارد للقانون (Harvard Law School)، فهي من أهم المعاهد القانونية في العالم، وتقدم برامج متقدمة للبحث والتعليم القانوني، وتعمل على تطوير القوانين واللوائح التي تحمي حقوق المستهلكين والمجتمع.