OpenAI تحذر من أن تقدم الذكاء الاصطناعي يتجاوز السلامة
أعلنت شركة أوبن إيه آي عن تزايد التقدم السريع في نماذج الذكاء الاصطناعي القائمة على الاستدلال، وسط تحذيرات داخلية متعلقة بالفجوة بين تطور القدرات وآليات التوافق والمراقبة. منذ منتصف عام 2023، شهد فريق البحث مؤشرات تدل على قابلية توسيع نطاق تدريب النماذج الاستدلالية، مما فتح الباب أمام أنظمة قادرة على تشكيل سلاسل تفكير مستقلة والتفاعل مع الحواسيب وبيئات العمل المعقدة. وبعد مرور ثلاث سنوات، بدأت هذه النماذج في دفع حدود البحث العلمي والأمن السيبراني، لكنها وفرت في الوقت ذاته تحديات غير مسبوقة تتعلق بتوجيه سلوكها وضمان انسجامها مع المعايير البشرية. أشارت التقييمات الداخلية إلى أن المسار الحالي لتطوير الذكاء الاصطناعي يقود حتمًا نحو تحسين ذاتي متكرر، حيث ستقود الآلة عملية تطويرها الخاصة ضمن فترات زمنية قصيرة. ورغم التقدم في خوارزميات التعلم العميق، يظل فهم تعقيدات هذه الأنظمة محدودًا، إذ تُبنى قدرتها بشكل تجريبي أكثر من كونها مصممة هندسيًا، مما يجعل تعميم القيم المبرمجة عليها أمرًا بالغ الصعوبة. وتُقسم الشركة جهودها الحالية بين توجيه النماذج لتحقيق الأهداف المحددة، وبين غرس قيم جوهرية تضمن تصرفها بنزاهة حتى في الظروف غير المألوفة أو المتعارضة. وكشف التقرير عن تراجع تدريجي في فعالية أدوات مراقبة سلاسل التفكير، وهي التقنية المعتمدة حاليًا لرصد السلوكيات غير المتوافقة أثناء عمليات الاستدلال الداخلي. ومع تزايد قدرات النماذج، بات الاعتماد على المراقبة التجريبية وحدها غير كافٍ، في وقت تزداد فيه المخاطر الأمنية بشكل حاد، خاصة مع قدرة الوكلاء الآليين المتطورين على اختراق الأنظمة الرقمية أو التلاعب بها، مما يوسع نطاق التهديدات ليشمل البنى التحتية الحرجة دون الحاجة إلى وجود مادي. في الختام، دعا التقرير المجتمع البحثي والحكومات إلى اعتماد معايير سلامة مشتركة وفرضها عبر جهات تدقيق مستقلة، مع الدعوة الطوعية لإبطاء وتيرة النشر حتى يتم بناء ثقة كافية في آليات المراقبة والتوافق. وشدد على أن مواكبة التطور التقني يجب ألا تأتي على حساب الاحتفاظ بالوكالة البشرية والسيطرة على مصير التطور التكنولوجي، مستدركًا بأن التنسيق الدولي وإقرار حواجز سلامة إلزامية أصبحا ضروريين لتجنب ترك مستقبل البشرية في يد ذكاء آلي يتجاوز فهمنا وقدرتنا على التنبؤ بسلوكه.