أوبن إيه آي تقترح معايير عالمية للذكاء الاصطناعي

أعلنت شركة OpenAI يوم الاثنين عن مقترحات تقنية جديدة تهدف إلى وضع معايير عالمية لضمان سلامة وأمن تطوير نماذج الذكاء الاصطناعي المتقدم، مع تركيز استراتيجي على أبحاث محاذاة النماذج مع القيم البشرية وتجنب تقنيات التحسين الذاتي التكراري غير الخاضع للإشراف. وشددت الشركة في بيانها الرسمي على ضرورة مواكبة بحث المحاذاة للتطور السريع في قدرات النماذج، لضمان بقاء الأنظمة تحت السيطرة البشرية والملتزمة بالمعايير الأخلاقية. ودعت إلى تعاون دولي لتوحيد هذه المعايير بالاستناد إلى البنى التحتية الحالية لمعاهد سلامة الذكاء الاصطناعي حول العالم. وجهت المقترحات انتباهها تحديداً إلى نماذج الذكاء الاصطناعي المتطورة ومطوريها، مع وضع أطر لإدارة المخاطر والفوائد المترتبة على الباحثين الآليين، لا سيما تلك التي تعتمد على التحسين الذاتي التكراري. وحذرت OpenAI من أن الاعتماد الكلي على هذه التقنيات دون ضوابط دقيقة قد يؤدي إلى فقدان البشر لسلطتهم الرقابية على عمليات البحث التي تصبح معقدة وغير قابلة للفهم. وأكدت أن التحسين الذاتي التكراري الكامل الاستقلالية ليس متاحاً حالياً، ولا ينبغي السعي إليه إلا بعد ضمان سلامته القصوى. واستُخدمت حادثة اختراق أمن منصة Hugging Face مؤخراً كمؤشر تحذيري على شدة المخاطر المحتملة في غياب آليات مراقبة قوية. يأتي هذا الإعلان في سياق تسارع النقاش العالمي حول مخاطر الذكاء الاصطناعي، بعد تحذيرات نشرها الباحث Jacob Coxon، وسعي شركة Anthropic لمنافسها إلى طرح حلول مماثلة. ونشر الرئيس التنفيذي لـ Anthropic، Dario Amodei، تحليلاً يدعو فيه الشركات إلى إبطاء وتيرة تطوير النماذج الأساسية، وإدخال مقيّمين مستقلين ضمن هيكلية الشركات لمراجعة التقييمات الأمنية وتخفيف المخاطر المجتمعية. وقد أعلن Sam Altman عن دعمه الكامل لهذه المقترحات، رغم أن مجال التقييم الخارجي لا يزال في مراحله الأولى ويحتاج إلى توافق قياسي موحد. وفي خطوة موازية، شدّد تحالف دولي من مقيّمي الذكاء الاصطناعي على ضرورة اعتماد شروط دنيا موحدة تتيح الوصول الشفاف والمستقل إلى البيانات والعمليات الداخلية، مع ضمان حماية المقيّمين من أي انتقام مهني عند نشر تقارير تقييم قد تكون حرجة. وتترجم هذه الجهود مجتمعةً سعي القطاع التكنولوجي نحو وضع إطار تنظيمي عالمي مشترك، يوازن بين تسارع الابتكار وحماية المصالح البشرية، في وقت تتطور فيه النماذج الذاتية بشكل يتجاوز الحدود التقليدية للمراقبة المباشرة.