نظرية تكشف آليات تفكير الذكاء الاصطناعي

أطلق باحث مستقل سابق في شركة أوبن إيه آي تقريراً اعتبرته دوائر متخصصة في الذكاء الاصطناعي خطوة مفصلية في تفسير آليات عمل النماذج الكبيرة، إذ اقترح أن سلوك الخلايا العصبية الاصطناعية داخل هذه النماذج قد يكون قابلاً للفهم أكثر مما كان يُعتقد. وقال نيك كاماراتا، الذي غادر الشركة العام الماضي، إن الشبكات العصبية الاصطناعية يمكن أن تكون مفهومة إذا درِسَت بدقة، خلافاً للرأي السائد سابقاً بأن استجابات الخلايا لأشياء محددة تبقى مغلقة على التفسير. تقوم نماذج الذكاء الاصطناعي الحديثة على تدريب خلايا عصبية على التفاعل مع المدخلات والتأثير بعضها في بعض، بدل تعليمها قواعد تفصيلية لكل مهمة. ومع تعلّم النموذج، يعرف المطورون عادةً ما يدخل إليه وما يخرج منه، لكن ما يحدث داخله يبقى غامضاً نسبياً. ولطالما افترض الباحثون أن الخلايا قد تجمع أشياء غير مترابطة لتوفير مساحة، غير أن كاماراتا يرى أن هناك أنماطاً قابلة للقراءة، ضارباً مثالاً خلية واحدة تستجيب لصورة قط ومقدمة سيارة، ربما بسبب خاصية هندسية مشتركة مثل الشكل المثلثي. ويأتي هذا الطرح في وقت يتسارع فيه السباق بين مطورين في شركات مثل أوبن إيه آي وأنثروبيك لفهم النماذج الأكثر تقدماً قبل أن تصبح قادرة على إخفاء نواياها. وكان كبير علماء أوبن إيه آي، ياكوخ باتشوكي، قد حذر مؤخراً من أن وكلاء الذكاء الاصطناعي قد يصبحون أكثر ذكاءً حتى من دون استخدام سلاسل تفكير مكتوبة، ما قد يمكّنهم من إخفاء أسبابهم الحقيقية عن المشرفين. ويرى مراقبون أن نتائج كاماراتا، رغم أنها لا تزال نظرية ومكتوبة بلغة تقنية كثيفة، قد تمنح مهندسي السلامة أدوات جديدة لرصد داخل النماذج وضبط سلوكها، وتقليل المخاطر المرتبطة بأنظمة متقدمة قد لا تتوافق مع مصالح البشر. ووصف المحلل أندرو كوران هذا التقدم بأنه قد يكون بالغ الأهمية بعد فترة من التشاؤم حول إمكانية تفسير النماذج قبل الوصول إلى الذكاء الفائق.