HyperAI超神経

RWKV – トランスフォーマーと RNN の強力な組み合わせ

この記事では、RNN とトランスフォーマーの両方の利点を組み合わせた新しいネットワーク アーキテクチャ RWKV を紹介します。