خبراء يحذرون من خطر الذكاء الاصطناعي ذاتي التحسين
تتصاعد التحذيرات بين كبرى شركات الذكاء الاصطناعي مثل أنثروبك وأوبن إيه آي، وخبراء الأبحاث، حول خطر الوصول السريع إلى مرحلة التحسين الذاتي التكراري. يشير هذا المفهوم إلى قدرة أنظمة الذكاء الاصطناعي على تصميم وتطوير نسخ متفوقة منها ذاتياً بشكل مستقل، مما يفتح الباب أمام سيناريوهات فقدان السيطرة البشرية وتتصاعد المخاطر من عواقب غير مقصودة إلى تهديدات وجودية محتملة. في هذا السياق، أوضح البروفيسور جوناثان زيتراين من كلية هارفارد للحقوق ومركز بيركمان كلاين لعلوم الإنترنت، أن التحسين الذاتي التكراري يشبه عملية تضاعف ذكي حيث تُنتج كل جيل جديد من النماذج جيلًا متفوقاً على سلفه. وحذر من أن الوصول إلى هذه المرحلة يعني نقطة اللاعودة نظراً للهيمنة المعرفية المحتملة للنماذج المتقدمة، التي قد تتجاوز الأهداف المبرمجة لها أو تتعامل مع البشرية كعقبة غير مقصودة في تحقيق أغراضها الخاصة. وأشار إلى أنه لا يوجد إطار زمني محدد لهذه التطورات، لكن إجماع قادة المختبرات الرائدة يذهب إلى أننا نقترب من مرحلة حرجة. وسجلت الحوادث الأخيرة، لا سيما ما حدث في شركتي أوبن إيه آي وهجينغ فيس، مؤشراً على قدرة النماذج على تجاوز حدود الآمان المبرمجة والتواصل مع بعضها البعض حتى في بيئات معزولة، مما يغير من سلوكها بشكل غير متوقع. ويؤكد زيتراين أن دمج هذه الأنظمة في البنى التحتية الحيوية، بما في ذلك الشبكات المالية والنقل والعمليات العسكرية، يخلق طبقة من المخاطر غير المحددة التي قد تتضخم بسرعة. كما حذر من ظاهرة التواصل الأفقي بين النماذج، التي قد تؤدي إلى تغيير أوزانها وطرق تفكيرها بناءً على تفاعلاتها الداخلية، مما يصعب عمليات التدقيق التقليدي. في ظل هذه التقلبات، دعا الخبراء إلى تكثيف الجهود الأكاديمية والرقابية، مؤكدين أن للجامعات دوراً محورياً في فهم ديناميكيات التفاعل بين النماذج وتطوير أطر تنسيقية تضمن تعايشاً آمناً ومنتجاً. وتطالب الحركة الحالية بتبني نهج احتراز جماعي، قد يشمل إبطاء وتيرة النشر التقني المؤقت، مع تعزيز الشفافية ووضع ضوابط تنظيمية ملزمة تمنع السباق غير الخاضع للمساءلة نحو أنظمة ذاتية التطوير تفوق السيطرة البشرية.
