حتى الآن، كانت الشبكات العصبية ذات الذاكرة الخارجية محدودة بذاكرة واحدة تمثل تفاعلات الذاكرة بشكل مفقود. وتشير الحاجة إلى تمثيل غني للعلاقة بين عناصر الذاكرة إلى ضرورة وجود ذاكرة علاقاتية ذات ترتيب عالٍ ومتفرقة. في هذه الورقة، نقترح فصل تخزين التجارب الفردية (الذاكرة العنصرية) عن علاقات حدوثها (الذاكرة العلاقة). ويُنفَّذ هذا المفهوم من خلال عامل جديد يُسمى "الذاكرة المرتبطة ذات الانتباه الذاتي" (SAM). وتعتمد هذه الطريقة على عملية الضرب الخارجي، حيث تُشكّل SAM مجموعة من الذاكرة المرتبطة التي تمثل العلاقات الافتراضية من الدرجة العالية بين أي زوج من عناصر الذاكرة، مما يُمكّن من بناء ذاكرة علاقاتية من ذاكرة عناصر. وتُدمج هاتان الذاكرةان في نموذج تسلسلي واحد قادر على التذكّر والاستدلال العلاقة. ونحقق نتائج تنافسية باستخدام نموذج الذاكرة المزدوجة المُقترح في مجموعة متنوعة من مهام التعلم الآلي، بدءًا من المشكلات الاصطناعية الصعبة ووصولًا إلى بيئات تجريبية عملية مثل الهندسة، والرسوم البيانية، والتعلم التكراري، والإجابة على الأسئلة.