رغم النجاح الملموس الذي حققته النماذج اللغوية المُدرّبة مسبقًا (PTLMs) في العديد من مهام معالجة اللغة الطبيعية (NLP)، إلا أنها ما زالت تواجه صعوبات في المهام التي تتطلب الاستدلال الزمني على الأحداث، وهو أمر بالغ الأهمية للتطبيقات التي تتمحور حول الأحداث. نقدّم نهجًا للتدريب المستمر يزوّد نماذج PTLM بمعارف محددة حول العلاقات الزمنية بين الأحداث. وقد صممنا أهدافًا للتعلم الذاتي لاستعادة المؤشرات على الأحداث والزمن التي تم إخفاؤها، ولتمييز الجمل عن نسخها المُعَطَّلة (حيث تم استبدال المؤشرات المتعلقة بالأحداث أو الزمن). وباستخدام هذه الأهداف معًا لتدريب نموذج PTLM بشكل مستمر، نعزز انتباهه للمعلومات المتعلقة بالأحداث والزمن، مما يؤدي إلى تحسين قدرته على الاستدلال الزمني على الأحداث. ويُعد هذا الإطار الفعّال للتدريب المستمر للاستدلال الزمني على الأحداث (ECONET) مُحسّنًا أداء نماذج PTLM في التدريب المُخصّص عبر خمسة مهام لاستخراج العلاقات والإجابة على الأسئلة، ويحقق أداءً جديدًا أو مُوازيًا لأفضل النتائج المُحققة في معظم المهام التطبيقية لدينا.