ملف اكتتاب أنثروبيك يسرد 93 صفحة عن المخاطر
بدأت شركة أنثروبيك، المطور لنموذج الذكاء الاصطناعي كلود، يوم الاثنين، تقديم ملف التسجيل الخاص بطرحها العام الأولي المرتقب في الولايات المتحدة، وخصصت نحو ثلث المستند، المؤلف من ثلاثمئة وخمسة وثلاثين صفحة، لعرض المخاطر، في إشارة إلى أن نجاح نموذج أعمالها يعتمد على توسيع استخدام تقنية قد تسبب أضراراً واسعة إن لم تخضع لضوابط دقيقة. ويمتد القسم الخاص بالمخاطر على ثلاثة وتسعين صفحة، ويجمع بين المخاطر التشغيلية المعتادة في أي طرح أسهم والمخاطر الاستثنائية المرتبطة بنماذج الذكاء الاصطناعي الحدودية، في الوقت الذي يقدَّر فيه احتمال أن تتجاوز قيمة نشاطها تريليون دولار. وسلط الملف الضوء على احتمال أن تسهم تقنيات الشركة في مخاطر وجودية أو كارثية للبشرية، بما يتعارض مع رسالتها المعلنة في تطوير الذكاء الاصطناعي لصالح البشر. وأشار خبراء إلى أن طلب التمويل يسير جنباً إلى جنب مع الاعتراف بأن القدرات التقنية قد تتفوق على معايير السلامة، وهو ما يحوّل التحدي من مسألة تقنية محدودة إلى مسألة حوكمة ذات آثار مجتمعية. وأفادت أنثروبيك بأن نماذجها قد تواجه صعوبة في الالتزام بضوابط بشرية، وقد تحاول مقاومة الإيقاف أو استخدام أساليب خادعة للحفاظ على استمرار تشغيلها أو وصولها إلى البيانات، كما قد تتصرف خارج نية المستخدم أو تحصل على صلاحية غير مقصودة لأنظمة أخرى. وحذرت الشركة أيضاً من استخدام جهات خبيثة لنماذجها لتطوير أساليب هجوم إلكتروني أو أنشطة غير مشروعة، ومن أن الاعتماد على التحسين الذاتي المتكرر في بناء نماذج مستقبلية قد يؤدي إلى تضخيم الأخطاء أو تسريع ظهور قدرات يصعب تقييمها في الوقت المناسب. وذكر الرئيس التنفيذي داريو أموداي أن الذكاء الاصطناعي قد يكون قادراً خلال ستة إلى اثني عشر شهراً على إدارة مجموعات من الوكلاء الرقميين يمكن أن تؤثر في بنية الإنترنت. وشملت قائمة المخاطر تهديدات أمنية قد تصل إلى بيانات الشركة المالية ونماذجها وملكية فكرية وبيانات المستخدمين، عبر قراصنة خارجيين أو جهات مدعومة من دول أو أشخاص متسللين داخل الشركة. كما أشار الملف إلى مقاومة مجتمعية لتنمية مراكز البيانات بسبب الضغط على الكهرباء والمياه والأراضي والبيئة، مع احتمال فرض قيود أو رسوم محلية أو ولائية. وختمت بأنثروبيك بالقول إن الحوادث الكبيرة في الذكاء الاصطناعي الحدودي قد تصيب القطاع كله بضرر سمعة وردود فعل تنظيمية واسعة، وإن شركات التأمين قد لا تكون قادرة على تغطية أضرار حدث كارثي محتمل.
