Le nouveau paradigme de la pensée profonde de l'alternance « inférence-effacement » (PENCIL ENables Context-efficient Inference and Learning, appelé PENCIL) a été proposé par Yang Chenxiao, doctorant à la Toyota Technological University de Chicago, et son équipe en mars 2025. Les résultats de recherche pertinents ont été publiés dans l'article «CRAYON : De longues pensées avec une mémoire courte", ce travail a été inclus dans ICML 2025.

PENCIL vise à permettre aux grands modèles d'effacer dynamiquement les résultats intermédiaires inutiles pendant le processus de génération jusqu'à l'obtention de la réponse finale. Sa conception s'appuie sur la règle de réécriture en logique et la démonstration automatique classique de théorèmes, ainsi que sur la gestion de la mémoire des trames de pile des langages de programmation fonctionnelle. PENCIL permet d'effectuer des calculs généraux à faible encombrement en simulant des machines de Turing avec une complexité temporelle et spatiale optimale, résolvant ainsi des tâches de calcul arbitraires difficiles à résoudre sous des contraintes de fenêtre contextuelle.