現代の大規模言語モデル（LLM）の最大の課題は、ハードウェアの処理能力に比べて極めて遅い応答速度にある。その原因は、モデルの重みをGPUのVRAMからシステムメモリに読み込む際のデータ転送がボトルネックとなるため、計算チップが多くの時間を無駄に待機していることにある。従来の順次生成（Autoregressive）方式では、1語ずつ生成するため、モデルの再読み込みが繰り返され、性能の向上が限られていた。 この問題に対し、NVIDIAの研究チームが提案した新アーキテクチャ「TiDAR（Think in Diffusion, Talk in Autoregression）」は、この根本的な課題を解決する画期的な手法である。TiDARは、生成の「思考」（Diffusion）と「発話」（Autoregressive）を統合することで、並列処理の高速性と順次処理の正確性の両方を実現した。入力には「過去の文」と「[MASK]」で埋められた未来のトークンを含む三段階構造を採用。まず、Diffusion部分が複数の未来トークンを同時に「予想」（例：「on the」）。次に、Autoregressive部分がそれらを一度に検証し、誤りがあれば即座に正しいトークンに置き換える。 この検証は、因果的アテンションマスクを用いて並列で行われるため、従来の1語ずつ生成する方式に比べて、2語分の処理を1回の前向き計算で完了できる。誤りがあっても、その計算結果から即座に正しい語を選び、無駄な再計算を回避する。この「無料の修正」機構により、GPUは常に稼働状態を維持でき、計算リソースの無駄が激減する。 実験結果では、TiDARは従来のARモデルに比べて処理速度が大幅に向上し、60語程度の並列生成が追加の遅延なしに可能であることが確認された。また、純粋なDiffusionモデルに比べて、言語の整合性や論理的精度が大きく向上し、AI生成の質と速度の両立を達成した。さらに、従来の「推測的デコード（Speculative Decoding）」と比べて、小さな補助モデルの誤りによるリジェクトが少なく、効率が優れている。 TiDARは、AIの実用化において「速度」と「正確性」のジレンマを解消する重要な一歩であり、今後のLLMの推論効率改善に大きな影響を与える可能性がある。