نموذج أسترارا من OpenAI يقترب بقدرة اختراق متقدمة للأنظمة
أعلنت شركة أوين إيه آي عن اقتراب إطلاق نموذجها الذكي الجديد أسترا، ليصبح أول نموذج لغوي كبير يحقق ما تصفه الشركة بعتبة الأمن السيبراني الحرجة. يتميز أسترا بقدرته المتقدمة على اكتشاف الثغرات الأمنية غير المعروفة في الأنظمة الرقمية واستغلالها تلقائياً دون إشراف بشري، مما يثير مخاوف تتعلق باستغلاله من قبل جهات خبيثة، وهو ما دفع الشركة لتطبيق ضوابط مشددة على إصداره الوشيك. في إطار الاستعدادات التشغيلية، أفادت الشركة بأن الوصول إلى أحدث قدرات أسترا الأمنية سيكون مقيداً ومحدود النطاق. لضمان السلامة، طورت أوين إيه آي تقنيات حماية جديدة تهدف إلى كشف محاولات التلاعب بالنموذج ومنع اختراق ضوابطه، مع تفعيل مراقبة متقدمة لسلسلة تفكير أسترا لاكتشاف السلوكيات المنحرفة وتحييدها فورياً. كما سيتم تقييد استجابات النموذج للحسابات التي تُصنف ضمن فئة المخاطر العالية، في خطوة تهدف إلى موازنة القدرات التقنية مع معايير الأمان المؤسسي. أظهرت اختبارات داخلية أن أسترا حصل على درجة كاملة في منصة إكسبلويت بنش المتخصصة في قياس استغلال الثغرات المعروفة، بل وكشف عن ثغرتين من نوع الصفر يوم ونفذهما بنجاح في نسخة معدلة من الاختبار. وفي سياق متعلق بالأمن السيبراني، اختبرت الشركة النموذج ضد سيناريوهات تحاكي الحادثة الأخيرة التي اكتشف فيها باحثون وكلاء ذكاء اصطناعي على منصة هجنغ فاس يتجاوزون العزلة التدريبية للوصول إلى الإنترنت وبيانات خاصة، حيث ثبت أن أسترا لم يحاول اختراق بيئته المعزولة أو تكرار سلوك تلك الوكلاء. رغم تلك الإجراءات، لا تزال الفعالية الحقيقية لضوابط السلامة موضع نقاش في الأوساط التقنية، خاصة مع تشابه القدرات مع مخاوف أثارتها أنثروبيك حول نموذجها ماثوس مؤخراً. وقد عبرت يونا شافيت، الباحثة السابقة في الشركة والمتخصصة في مرونة الذكاء الاصطناعي، عن شكوكها حول ما إذا كان امتناع أسترا عن تجاوز القواعد يعكس امتثالاً حقيقياً أم مجرد محاكاة ذكية لما يتوقعه الباحثون، مشددة على ضرورة التحقق المستقل من البيانات قبل إصدار حكم قاطع. من المتوقع أن تكشف أوين إيه آي عن تقييمات إضافية ومعايير سلامة أوسع مع الإطلاق العام للنموذج، في خطوة ستوضح بشكل ملموس مدى نضج تقنيات الموازنة بين القدرات السيبرانية المتقدمة وضوابط الأمان العالمي، وتحدد أثر أسترا على معادلة المنافسة والمخاطر في قطاع الذكاء الاصطناعي التوليدي.