HyperAIHyperAI

Command Palette

Search for a command to run...

دario أمودي، الرئيس التنفيذي لشركة Anthropic، يحذر من مخاطر الذكاء الاصطناعي السريع والغير منظم، ويكشف عن الجهود الجارية لتصحيحها

تُعدّ شركة أنثروبيك، التي تُعتبر من أبرز الشركات الرائدة في مجال الذكاء الاصطناعي المتقدم، واحدة من أولى الجهات التي أدركت بوضوح التحديات الكبيرة التي يفرضها تطور الذكاء الاصطناعي السريع وغير المنظم. وقد صرّح داريو أمودي، الرئيس التنفيذي للشركة، بقلق واضح بشأن المخاطر المحتملة التي قد تنجم عن تطورات الذكاء الاصطناعي دون رقابة كافية، خاصة مع تسارع وتيرة الابتكار في هذا المجال. في مقابلات متعددة، حذّر أمودي من أن الذكاء الاصطناعي المتقدم قد يُستخدم لخلق محتوى مضلل، أو تقويض الأمن السيبراني، أو حتى التأثير على الانتخابات والقرارات السياسية، إذا لم يُصمَّم ويُدار بعناية. ورغم هذه المخاوف، لا تتوقف أنثروبيك عن العمل على تطوير نماذج ذكاء اصطناعي أكثر تقدماً، لكنها تفعل ذلك ضمن إطار يُعطي الأولوية لسلامة النظام وشفافيته. واحدة من أبرز خطوات الشركة في هذا الصدد هي تبني مبدأ "الذكاء الاصطناعي الآمن" منذ بدايات تطويرها. وتشمل هذه الفلسفة تصميم النماذج بحيث تكون أكثر تحفظاً في الاستجابات، وتقليل احتمالية إنتاج معلومات خاطئة أو ضارة. كما تعتمد أنثروبيك على ما يُعرف بـ"التحكم في السلوك" (behavioral alignment)، وهي تقنية تُستخدم لتدريب النماذج على التفاعل بطريقة تتوافق مع القيم الأخلاقية والمبادئ البشرية، بدلاً من مجرد الاستجابة بشكل مباشر للمدخلات. بالإضافة إلى ذلك، أطلقت الشركة مبادرات للشفافية، منها نشر تقارير دورية حول قدرات نماذجها، ونتائج اختباراتها في مجالات مثل الكذب، والتحيّز، والقدرة على التلاعب. كما أنشأت لجنة مستقلة تُشرف على عمليات التطوير، وتُقدم توصيات حول كيفية التعامل مع المخاطر المحتملة، مما يُعزز الثقة في العملية التكنولوجية. على صعيد التنافس، لا تزال أنثروبيك تسعى للبقاء في طليعة السوق، رغم أن المنافسة شرسة من شركات مثل جوجل وآبل وآمازون، بالإضافة إلى مختبرات مثل OpenAI. لكن ما يميزها، بحسب أمودي، هو التزامها بتطوير الذكاء الاصطناعي "بشكل يخدم البشر"، وليس فقط لتحقيق الأداء العالي أو الفوز في السباق التكنولوجي. وفي خطوة استراتيجية، بدأت الشركة في التعاون مع الجهات الحكومية والمنظمات الدولية لصياغة إطار تنظيمي للذكاء الاصطناعي، تسعى من خلاله إلى تأمين معايير عالمية تُراعي السلامة والعدالة والشفافية. وتشير أمودي إلى أن التنظيم ليس عائقاً أمام الابتكار، بل قد يكون ضرورياً لضمان استدامة هذا التطور، وتجنب الكوارث التي قد تنجم عن استخدام غير مسؤول للتكنولوجيا. باختصار، تسعى أنثروبيك إلى تحقيق توازن دقيق بين التقدم التكنولوجي والمسؤولية الأخلاقية، عبر تبني نهج متكامل يجمع بين البحث العلمي، والتصميم الآمن، والشفافية، والتعاون العالمي. وفي عالم يتسم بالسرعة والتحول المستمر، تمثل هذه الرؤية نموذجاً يُحتذى به في كيفية إدارة الذكاء الاصطناعي بطريقة تُحافظ على قيم المجتمع ومستقبل البشرية.

الروابط ذات الصلة