「推論と消去」を交互に繰り返す深い思考の新しいパラダイム（PENCIL ENables Context-efficient Inference and Learning、PENCILと略される）は、2025年3月に豊田工業大学シカゴ校の博士課程学生であるヤン・チェンシャオ氏と彼のチームによって提案されました。関連する研究成果は、論文「鉛筆：長い思考と短い記憶「この研究はICML 2025に収録されました。」

PENCILは、大規模モデルにおいて、最終的な答えが得られるまで生成プロセス中に不要な中間結果を動的に消去することを目指しています。その設計は、論理における書き換え規則、古典的な自動定理証明、そして関数型プログラミング言語におけるスタックフレームメモリ管理に着目しています。PENCILは、最適な時間と空間の計算量を持つチューリングマシンをシミュレートすることで、汎用的な空間効率の高い計算を実行できます。これにより、コンテキストウィンドウ制約下では解くのが困難な任意の計算タスクを解くことができます。