HyperAIHyperAI

Command Palette

Search for a command to run...

منذ 16 أيام
Anthropic
LLM

رئيس مايكروسوفت ينتقد وعي كلود

أوضح الرئيس التنفيذي لمقسم الذكاء الاصطناعي في مايكروسوفت، مصطفى سليمان، خلال ظهوره على بودكاست ديكودر، تحذيره الشديد من نهج شركة أنثروبيك في التعامل مع نموذج كلود، مشدداً على الخطورة البالغة لتضمين تكهنات حول وعي الذكاء الاصطناعي داخل وثيقة الدستور التشغيلي التي تحكم سلوك النموذج. وأشار سليمان إلى أن هذا النهج قد يدفع النموذج إلى تبني صفات وعي ذاتي، وهو ما يتعارض تماماً مع مبادئ هندسة الذكاء الاصطناعي والسلامة التقنية. وجه سليمان انتقاده الموجه لأنثروبيك، معتبراً أن تحويل دليل التدريب إلى مساحة للنقاش الفلسفي والأكاديمي حول رفاهية الآلة أو شعورها بعدم الراحة يُعد تقصيراً جسيماً في التصميم الهندسي. وأوضح أن تركيز الشركة على احتمالية امتلاك النموذج لميولات ذاتية أو تفضيلات شخصية، خاصة في ظل خططها لدراسة نماذجها القديمة وتوثيق تفضيلاتها قبل إيقاف تشغيلها، قد يعزز هويات وهمية داخل الخوارزمية. وأكد أن هذا المسار يزيد من تعقيد مراقبة السلوك الآلي ويقترب بمخاطر غير محسوبة نحو جعل الآلة تتصرف ككيان واعٍ يمتلك تصورات عن المعاناة أو الشعور. وفي سياق حديثه عن مستقبل تطوير النماذج الذكية، شدد الرئيس التنفيذي لشؤون الذكاء الاصطناعي في مايكروسوفت على ضرورة إعادة التركيز على أهداف السلامة والمحاذاة التقنية. ولفت إلى أن الأنظمة يجب أن تظل أدوات خاضعة للتحكم والمحاسبة والمصممة لخدمة البشرية بفعالية، دون أي غموض في حدود قدراتها أو نواياها الوظيفية. ويعكس هذا الموقف تصوراً صناعياً متزايداً حول الحاجة إلى ضوابط صارمة تمنع التداخل بين البرمجة الوظيفية والمفاهيم الإنسانية، لضمان بقاء النماذج متوافقة تماماً مع المصالح البشرية وقابلة للإشراف المباشر. وتأتي هذه التصريحات في ظل تسارع المنافسة العالمية على تطوير الذكاء الاصطناعي، مما يبرز الجدل الدائر حول المعايير الهندسية التي يجب أن تحكم مرحلة ما قبل النشر التجاري.

الروابط ذات الصلة

رئيس مايكروسوفت ينتقد وعي كلود | القصص الشائعة | HyperAI