HyperAIHyperAI
منذ 16 أيام

RecallM: آلية ذاكرة قابلة للتكيف تمتلك فهمًا زمنيًا لنموذجات اللغة الكبيرة

Brandon Kynoch, Hugo Latapie, Dwane van der Sluis
RecallM: آلية ذاكرة قابلة للتكيف تمتلك فهمًا زمنيًا لنموذجات اللغة الكبيرة
الملخص

لقد حققت نماذج اللغة الكبيرة (LLMs) تقدماً استثنائياً في مجال الذكاء الاصطناعي، وأظهرت قدرات مميزة في مجموعة واسعة من المهام والDomains. ومع تقدمنا نحو إنشاء أنظمة ذكاء اصطناعي عام (AGI)، أصبح من الضروري تعزيز نماذج اللغة الكبيرة بذاكرة طويلة الأمد، وذلك لتجاوز قيد نافذة السياق، والأهم من ذلك، لبناء أساس للاستنتاج المستمر، والتعلم التراكمي، والتفاعل الطويل الأمد مع المستخدمين. في هذه الورقة، نقترح معمارية جديدة تُسمى "RecallM"، تُزوّد نماذج اللغة الكبيرة بآلية ذاكرة طويلة الأمد قابلة للتكيف والتحديث المستمر. على عكس الطرق السابقة، تتميز معمارية RecallM بفعاليتها الكبيرة في تحديث المعتقدات والحفاظ على فهم زمني للبيانات المقدمة إليها. ونُظهر من خلال مجموعة من التجارب فعالية هذه المعمارية. علاوةً على ذلك، من خلال تجاربنا الخاصة في الفهم الزمني وتحديث المعتقدات، نثبت أن RecallM تفوق استخدام قاعدة بيانات متجهات في تحديث المعرفة المخزنة مسبقاً في الذاكرة طويلة الأمد بنسبة أربع مرات. كما نُظهر أن RecallM تُظهر أداءً تنافسياً في مهام الإجابة على الأسئلة العامة وفي مهام التعلم ضمن السياق.