تُعدّ أدوات الذكاء الاصطناعي أداة قوية في مجالات البحث العلمي والكتابة الأكاديمية، حيث تُسهم في تلخيص الدراسات وصياغة التقارير ومساندة صياغة السياسات. لكنها تواجه تحديات جوهرية تتعلق بالدقة والموثوقية. وفقًا للكاتب سام إيلينغورث من جامعة إدنبره نابير، فإن هذه الأدوات قد تُهمل وجهات نظر حاسمة، وتُنتج معلومات خاطئة، بل وتُخترع مراجعًا وهمية، كما أشارت مقالة في مجلة ناتشر (2025) إلى هذه المخاوف. يُبرز الكاتب أن اعتماد الذكاء الاصطناعي في المراحل المبكرة من البحث العلمي قد يؤدي إلى تفاقم هذه المشكلات، خاصة عندما يُستخدم دون رقابة أو تدقيق بشري. فالذكاء الاصطناعي، رغم تقدّمه، لا يمتلك فهمًا حقيقيًا للمحتوى، بل يُعيد توليف المعلومات بناءً على نماذج تدريبية، ما يجعله عرضة للـ"تخيّل" (hallucination)، سواء في النصوص أو في المراجع المرجعية، مما يُشكل خطرًا على سلامة المعرفة العلمية. في هذا السياق، يدعو الكاتب إلى تبني إجراءات صارمة لضمان أمان الذكاء الاصطناعي في البيئة الأكاديمية. ويُشدد على ضرورة تطوير معايير أخلاقية واضحة، وتشجيع الشفافية في استخدام هذه الأدوات، مثل الإفصاح عن مشاركتها في كتابة الأوراق البحثية. كما يدعو إلى تعزيز التدريب الأكاديمي على التفكير النقدي، لضمان أن يكون الباحثون قادرين على تقييم مخرجات الذكاء الاصطناعي بذكاء وتمييز بين المعلومة الصحيحة والخاطئة. يُضاف إلى ذلك، أن تفشي استخدام الذكاء الاصطناعي قد يُضعف مهارات التفكير المستقل، خصوصًا بين الطلاب، ما يهدد بيئة التعلم الأكاديمي. ورغم أن بعض الأدوات قد تُسهم في تقليل الاعتماد على المجلات الاستغلالية، إلا أن الاستخدام غير المنضبط قد يُفاقم مشكلات النزاهة العلمية. في الختام، يؤكد الكاتب أن التقدم التكنولوجي لا ينبغي أن يأتي على حساب الجودة العلمية أو الأخلاق المهنية. ويُطالب المجتمع العلمي باتخاذ خطوات استباقية، مثل وضع سياسات واضحة للتحقق من مخرجات الذكاء الاصطناعي، ودعم البحث في مجالات السلامة والشفافية في الذكاء الاصطناعي، لضمان أن تكون هذه التكنولوجيا أداة مساعدة، وليس مصدرًا للخطأ أو التضليل.