مؤسس OpenAI يدعو لمراقبة الذكاء الصناعي: "لا تزال الأخطاء خارج السيطرة"

ملخص المقال في كلمته الرئيسية خلال حدث نظمته شركة Y Combinator هذا الأسبوع، حذر أندره كرباثي، أحد المؤسسين المشاركين لشركة OpenAI، من الإفراط في الحماس بشأن الذكاء الاصطناعي (AI) وعدم المبالغة في تقدير قدراته. شدد كرباثي على وجوب "إبقاء الذكاء الاصطناعي تحت السيطرة" لأن النماذج اللغوية الكبيرة (LLMs) لا تزال ترتكب أخطاء لا يمكن أن يرتكبها البشر. أخطاء غير إنسانية قارن كرباثي بين النماذج اللغوية الكبيرة و"أرواح البشر" التي تتخيل حقائق، تفتقر للوعي الذاتي، وتعاني من "فقدان الذاكرة". على سبيل المثال، قد تصر هذه النماذج على أن "9.11 أكبر من 9.9" أو أن كلمة "strawberry" تحتوي على حرفين "R". رغم قدرتها على إنتاج آلاف السطور من الكود بسرعة، فإن هذه الأخطاء تجعلها غير جاهزة للعمل دون إشراف بشري. ضرورة الإشراف البشري أكد كرباثي أن مطوري البرمجيات يجب أن يظلوا متحفظين ويقوموا بإعطاء تعليمات محددة للذكاء الاصطناعي. قال: "أذهب دائمًا بالقطع الصغيرة والتدريجية. أريد التأكد من أن كل شيء على ما يرام". كما شدد على أن تخصيص المزيد من الوقت لكتابة تعليمات أكثر وضوحًا يزيد من احتمالية التحقق الناجح للمخرجات ويسهل التقدم في المشروع. آراء أخرى تحث على الحذر ليست وجهة نظر كرباثي هي الوحيدة. فبوب ماكغرو، الرئيس السابق للبحوث في OpenAI، قال في حلقة منodcast "Training Data" الذي يعرضه صندوق رأس المال الجريء Sequoia Capital، إن المهندسين البشريين لا يزالون ضروريين ليس فقط لإرشاد الذكاء الاصطناعي، ولكن أيضًا للتدخل عندما تصبح الأمور معقدة. أشار ماكغرو إلى أن الذكاء الاصطناعي قد يحتاج إلى مساعدة البشر في تجزئة المشاكل المعقدة لحلها. كنت بيك، أحد مؤلفي "بيان مانيفستو الأجرة"، استخدم مثال "الجن" لوصف سلوك الذكاء الاصطناعي. قال بيك في حلقة منodcast "The Pragmatic Engineer": "لن يقوم الذكاء الاصطناعي بما تقصد. له جدول أعماله الخاص". وأضاف أن النتائج غير متسقة أحيانًا، مما يجعل استخدام الذكاء الاصطناعي للكتابة البرمجية يشبه القمار. الرهان على الذكاء الاصطناعي رغم هذه التحذيرات، فإن الشركات التقنية الكبرى لا تزال تراهن على الذكاء الاصطناعي. على سبيل المثال، أفاد ساندار بيتشاي، الرئيس التنفيذي لشركة ألفابت (Alphabet)، الشركة الأم لجوجل، أن الذكاء الاصطناعي يكتب أكثر من 30% من الكود الجديد للشركة، مقارنة بـ25% العام الماضي. تقييم الحدث من قبل مختصين يتفق العديد من المختصين في مجال الذكاء الاصطناعي على أن هذه التكنولوجيا ما زالت في مراحلها الأولى وأنها تحتاج إلى مزيد من التحسين والإشراف البشري. بينما تعتبر هذه الأدوات مفيدة ومبتكرة، فإنها لا تزال تواجه تحديات كبيرة فيما يتعلق بالدقة والموثوقية. يرى كرباثي وماكغرو وبك أن التقدم يجب أن يتم بحذر، مع التركيز على تطوير أطر عمل أكثر فعالية للتحقق والرقابة على مخرجات الذكاء الاصطناعي. نبذة تعريفية عن OpenAI تأسست شركة OpenAI في عام 2015 بهدف تطوير الذكاء الاصطناعي بطرق آمنة ومفيدة للبشرية. من بين أبرز منتجاتها نموذج اللغة ChatGPT، الذي اكتسب شهرة واسعة في الأشهر الأخيرة لقدرته على التفاعل بشكل طبيعي وتقديم إجابات معقدة. رغم ذلك، فإن الشركة تؤكد دائمًا على ضرورة الإشراف البشري والتقييم الدقيق للتقنيات التي تطورها للتأكد من سلامتها وموثوقيتها.