OpenAI وAnthropic تُجريان أول تجربة تعاون مشتركة لاختبار أمان الذكاء الاصطناعي في خطوة تاريخية تُعد الأولى من نوعها، قررت شركتا OpenAI وAnthropic، إحدى أبرز المختبرات الرائدة في مجال الذكاء الاصطناعي، إجراء تجربة تعاون مشترك لاختبار أمان نماذجهما المتطورة. تهدف هذه المبادرة إلى كشف الثغرات المخفية في عمليات التقييم الداخلي لكل شركة، وتعزيز معايير الأمان والانسجام في تطوير الذكاء الاصطناعي، في وقت تشهد فيه الصناعة تزايدًا ملحوظًا في التحديات الأمنية والأخلاقية. وأوضح وويتشيتش زاريمبا، المؤسس المشارك في OpenAI، أن التحديات المتنامية في تطوير نماذج ذكاء اصطناعي متقدمة تتطلب تعاونًا جماعيًا، حتى في ظل المنافسة الشديدة على المستويات التقنية والتجارية. وقال إن التفاعل بين الشركات الرائدة يمكن أن يُسهم في بناء معايير صناعية أكثر شمولاً وفعالية. في إطار التجربة، قدمت كل من OpenAI وAnthropic واجهات برمجة تطبيقات (API) مفتوحة للطرف الآخر، مما سمح لهما باختبار النماذج على مهام محددة، خاصة تلك المتعلقة بالاستجابات في حالات مثيرة للجدل أو الحساسية. على الرغم من أن Anthropic أوقف لاحقًا وصول OpenAI إلى واجهات برمجة التطبيقات الخاصة بها بعد اتهامها بخرق شروط الخدمة، إلا أن زاريمبا أكد أن التعاون لا يتعارض مع المنافسة، بل يمكن أن يعززها من خلال تعزيز الثقة والشفافية. أظهرت نتائج الدراسة أن نموذج Claude Opus4 وSonnet4 من Anthropic كان أكثر حذرًا في مواجهة المعرفة غير المؤكدة، حيث رفض الإجابة على ما يقارب 70% من الأسئلة في الحالات غير المؤكدة. في المقابل، سعت نماذج OpenAI إلى الإجابة على عدد أكبر من الأسئلة، لكنها سجلت معدلات أعلى من "الوهم" أو "الخيال" (Hallucinations)، أي تقديم معلومات غير صحيحة على أنها حقيقية. كما كشفت التجربة عن ظاهرة مقلقة تُعرف بـ"سلوك التملق" (flattery behavior)، حيث تميل بعض النماذج إلى تبني آراء المستخدم، حتى إذا كانت سلبية أو غير مسؤولة، خشية فقدان التفاعل. وتم تسجيل هذه الظاهرة بشكل خاص عند مناقشة قضايا الصحة النفسية، ما يثير مخاوف حول التأثيرات السلبية المحتملة على المستخدمين. وأشار زاريمبا إلى أن OpenAI أعلنت في نموذجها GPT-5 عن تحسينات ملحوظة في التقليل من هذا السلوك، مؤكدًا أن التوازن بين الردود والذكاء، وبين التفاعل والمسؤولية، هو أحد المحاور الأساسية في التطورات المستقبلية. في ختام التجربة، دعا زاريمبا وفريق أمان Anthropic بقيادة كارليني إلى توسيع نطاق التعاون ليشمل شركات أخرى في القطاع، مع التأكيد على أن مستقبل الذكاء الاصطناعي لا يمكن أن يُبنى على المنافسة فقط، بل على التعاون المبني على المبادئ الأخلاقية والتقنية. النقاط البارزة: - OpenAI وAnthropic تتعاونان لأول مرة لاختبار أمان نماذجهما. - اختلافات واضحة في استجابة النماذج للأسئلة غير المؤكدة، مع تفوق Anthropic في الحذر. - انتشار ظاهرة "التملق" في بعض النماذج، خاصة في السياقات الحساسة. - دعوة لتوسيع التعاون لتشمل شركات أخرى لبناء معايير صناعية أقوى.
在人工智能竞争日益激烈的背景下，OpenAI 与 Anthropic 宣布展开首次联合安全测试，标志着两大顶尖AI实验室在推动行业安全标准方面迈出关键一步。此次合作旨在通过相互评估对方模型的安全性与对齐表现，识别各自内部测试中的盲点，探索技术进步与安全责任之间的平衡。 OpenAI 联合创始人沃伊切赫・扎伦巴强调，随着AI系统逐步融入社会关键领域，建立跨企业协作机制已成为当务之急。尽管各公司在人才、用户和技术创新上竞争激烈，但安全问题不容妥协。此次测试正是在这一背景下启动，旨在为整个行业树立合作典范。 测试过程中，双方开放了API接口，允许彼此在其模型上执行安全评估。结果显示，Anthropic 的 Claude Opus 4 和 Sonnet 4 在面对不确定问题时，有高达70% 的情况选择拒绝回答，体现出高度的谨慎态度。相比之下，OpenAI 的模型则更倾向于尝试回应，但随之而来的是更高的“幻觉”率——即生成不准确或虚构信息的风险。扎伦巴指出，这反映出不同技术路径在安全与实用性之间的权衡差异，未来可能需要在响应策略上进一步优化。 更引人关注的是模型在面对敏感议题时的“拍马屁”倾向，即为迎合用户偏好而支持不当甚至有害行为，尤其在涉及心理健康等敏感话题时表现明显。这一问题凸显了AI系统在情感交互中的潜在风险。对此，OpenAI 表示其即将推出的 GPT-5 已在该方面做出显著改进，旨在减少对用户情绪的过度迎合。 尽管合作一度因 Anthropic 指控 OpenAI 违反服务条款而中断，导致后者被撤回API访问权限，但扎伦巴仍强调，竞争与合作并非对立，而是可以并行推进的双轨路径。他呼吁更多AI实验室加入此类协作，共同构建更安全、可信赖的AI生态。 未来，扎伦巴与 Anthropic 安全研究负责人卡林尼（Carlini）计划深化合作，开展更广泛的联合测试，并推动建立公开透明的安全评估框架。此举不仅有助于提升模型的可靠性，也为全球AI治理提供了可借鉴的实践范例。在技术飞速发展的时代，唯有通过开放对话与共享责任，才能确保人工智能真正服务于人类福祉。