في عصر تُعد فيه نماذج اللغة الكبيرة مثل ChatGPT جزءًا لا يتجزأ من حياتنا اليومية، تبقى ميكانيكياتها الداخلية غامضةً، ما يثير تساؤلات حول مدى فهمنا لها. ناومي سافرا، باحثة في معهد كيمبرن بجامعة هارفارد، ترى أن هذا الغموض غير مقبول، خاصةً مع التوسع الهائل لهذه النماذج. بدلًا من الاعتماد على تحليل النموذج بعد انتهاء التدريب، تركز سافرا على عملية التدريب نفسها، مستوحية من التفكير البيولوجي التطوّري. وفقًا لها، لا يمكن فهم الذكاء الاصطناعي دون فهم "الانقراض الانتقائي العشوائي" – أي خوارزمية التدرج العشوائي التنازلي – التي تُشكّل أساس تعلّم النماذج. تُعد النماذج اللغوية مبنية على شبكات عصبية اصطناعية، تبدأ بروابط عشوائية بين "عُقد" اصطناعية، ثم تُعدّل هذه الروابط عبر ملايين التكرارات لتنبؤ الكلمة التالية في جمل مأخوذة من كميات هائلة من النصوص. النتيجة: تكوّن هيكل داخلي يمكّن النموذج من الاستجابة بسلاسة لنصوص جديدة. لكن سافرا ترى أن التحليل التقليدي – الذي يركز على التفاصيل الداخلية للنموذج بعد التدريب – يفتقر إلى العمق. بدلًا من ذلك، تُفضّل دراسة التطور الديناميكي للنموذج أثناء التدريب، تمامًا كما يدرس البيولوجي التطور التطوري للكائن الحي لفهم سلوكه. في أحد أبحاثها، استخدمت سافرا التباين العشوائي بين مسارات تدريب مختلفة للكشف عن ارتباطات بين البنية الداخلية للنموذج وسلوكه في التعميم. إذا ظهر ترابط ثابت بين هذين العاملين عبر مسارات متعددة، فهذا يدل على ارتباط حقيقي، وليس صدفة. هذا يمنح تفسيرات أكثر دقة من مجرد تحليل نموذج واحد بعد التدريب. تأثرت مسيرة سافرا بظروف شخصية صعبة: أثناء دراستها للدكتوراه، أصيبت بمرض عصبي أفقدها القدرة على الكتابة أو الطباعة. فاضطرت إلى التحدث بالكود وطلب التسهيلات مثل مكتب خاص. لكن هذا التحدي أتاح لها توجّهًا فريدًا: التركيز على الديناميكيات التدريبية، مجال لم يهتم به الكثيرون حينها. وقد أثبتت هذه الرؤية البديلة أنها مثمرة، حيث سمح لها بالعمل بسلاسة، بعيدًا عن موجات الهوس التكنولوجي، مع إنتاج أبحاث أصلية. ما يميّز منهجها عن الأغلبية في مجال التفسيرية هو التمييز بين "كيف" و"لماذا". بينما يحاول الكثيرون تفسير ما يفعله النموذج، تسعى سافرا لفهم السبب وراء تكوّن هذه الآليات. فمثلاً، قد يُكتشف أن عقدة معينة تُنشط عند إنتاج لغة فرنسية، لكن هذا لا يعني أنها ضرورية. في تجارب على نماذج تصنيف صور، وُجد أن منع تكوّن عقد مختصة بتصنيف صور القطط أدى إلى تحسين الأداء، مما يشير إلى أن هذه الخصائص قد تكون "متبقيات تطورية" لا فائدة حقيقية منها. التحليل السببي في نهاية التدريب قد يكون مضلّلًا، لأن عقدة قد تبدو مهمة لأنها متصلة بشبكة معقدة، وليس لأنها تؤدي وظيفة حاسمة. لكن دراسة التدريب تسمح بتحديد توقيت ظهور الهياكل والوظائف: إذا ظهرت هياكل معينة قبل تحسن الأداء، فهذا يشير إلى ارتباط سببي حقيقي. في النهاية، تؤكد سافرا أن الهدف الأسمى في التفسيرية هو الدقة في التعبير: يجب أن تكون الكلمات المستخدمة في التحليل واضحة وقابلة للقياس. فالتفسيرية الحقيقية لا تُفهم فقط، بل يجب أن تكون قابلة للتفسير.