رؤساء التقنية يعينون مراقبي سلامة الذكاء الاصطناعي

أعلنت أنثروبيك عن مبادرة تنظيمية طموحة في قطاع الذكاء الاصطناعي، يقودها الرئيس التنفيذي داريو أمودي، والتي تقضي بتعيين ما يُعرف بـالمقيّمين المتكاملين أو المضمنين ضمن فرق العمل الخاصة بمختبرات الذكاء الاصطناعي الرائدة. يهدف هذا الدور الجديد إلى مراقبة النماذج المتقدمة وتدقيق ممارساتها الأمنية والتشغيلية والتدريبية قبل أي إطلاق رسمي، وذلك في سياق تصاعد المخاوف العالمية من التسارعات التكنولوجية غير الخاضعة للرقابة الكافية. ينص نموذج العمل الذي طرحه أمودي على منح هؤلاء المقيّمين صلاحيات مكافئة لصلاحيات الموظفين الدائمين، بما في ذلك الوصول إلى الأنظمة الداخلية، ووجود مكاتب فعلية داخل المقرات، وحق نشر التقارير والنتائج بشكل مستقل دون خضوع للرقابة التحريرية للشركة، مع استثناء البيانات الحساسة أمنياُ أو قانونياُ فقط. وقد تلقى هذا الطرح دعماُ فورياُ من أبرز شخصيات القطاع، إذ أعرب سام ألتمان رئيس تنفيذي لشركة أوبن إيه آي عن موافقته الصريحة على الفكرة والتزام فريقه بتطبيقها، بينما أيد إيلون ماسك وجهة النظر نفسها، مما يعكس تحولاً محتملاُ في ثقافة الحوكمة الداخلية لشركات التكنولوجيا المتقدمة. يرافق هذا التوجه الصناعي حركة تنقل واضحة لأفضل الكوادر المتخصصة في السلامة التقنية للذكاء الاصطناعي نحو جهات رقابية مستقلة. فقد أعلنت منظمات غير ربحية مثل ميترو عن استقطاب خبراء سابقين من أنثروبيك وجوجل ديبمايند، فيما أبدت جامعات مرموقة مثل مجموعة معالجة اللغات الطبيعية في ستانفورد استعدادها لتقديم خدمات التقييم المستقل، مؤكدة تفوق المؤسسات الأكاديمية في الحياد والمهنية. ومع ذلك، يحذر خبراء الأمن السيبراني والحوكمة التقنية من اعتبار هذا الإجراء حلاُ سحرياً لمشاكل السلامة. ويشير ميلز برانديج، المدير التنفيذي لمعهد أبحاث التحقق من الذكاء الاصطناعي، إلى ضرورة وجود متطلبات تنظيمية ملزمة وضمان استقلال المقيّمين مالياُ وإدارياُ عن الشركات التي يراقبون أداءها، مع تشكيل لجان رقابية خارجية للإبلاغ عن المخالفات المحتملة. ومن جانبه، يقترح البروفيسور كيفن فرازير من جامعة تكساس تحديد فترة التكليف بثلاثين شهراُ لتغطية دورتين تطويريتين كاملتين لنماذج جديدة، مما يسمح بتقييم تصحيح الأخطاء السابقة ويحد من خطر الاندماج الثقافي أو فقدان الحياد المؤسسي. في المجمل، يمثل طرح المقيّمين المتكاملين خطوة تنظيمية ذاتية مبتكرة في سوق يتسم بالمنافسة الشرسة، حيث تسعى الرائدة فيه إلى وضع معايير شفافة للرقابة الداخلية. غير أن فعاليتها على المدى الطويل مرتبطة بتعزيز الأطر القانونية والمؤسسية التي تضمن استقلاليتها الفعلية وتحميها من ضغوط السوق أو التأثيرات المؤسسية الداخلية، مما يفتح باب نقاش أوسع حول مستقبل الحوكمة الأخلاقية في عصر النماذج التوليدية المتقدمة.