深層学習モデルの拡大に伴い、GPUのメモリ帯域幅が大きなボトルネックとなっている。最新のハードウェアではFP8精度がサポートされ、学習と推論の高速化が可能だが、多くのデータサイエンティストや機械学習エンジニアはRTX 30シリーズや20シリーズといった旧世代GPUを使用しており、FP8をハードウェアレベルで利用できない。このような状況を受けて、開発者はソフトウェアベースの解決策として「Feather」というオープンソースライブラリを構築した。このツールは、FP32コンテナに2つのFP16または4つのFP8をパックすることで、メモリ使用量を削減し、帯域幅を効率化する。特にメモリバウンドな計算において、データ転送の負荷を軽減することで、実際の実行速度を向上させる。 GPUのメモリ階層では、SRAMが最も高速だが容量が限られている。HBM（VRAM）の帯域はSRAMの約1/7であり、計算コアはデータ待ちでほとんどアイドル状態になる。このため、計算よりもデータ転送がボトルネックとなる。FP8やFP16といった低精度データ型は、同じメモリ領域に複数の値を詰め込むことで帯域を有効活用できる。ただし、旧世代GPUではFP8のハードウェアサポートがないため、ソフトウェアによる実装が必須となる。 Featherでは、ビット演算とNumPyの型変換機能を活用してFP8-E5M2やE4M3フォーマットを実現。特にE4M3は複雑な変換が必要なため、ml_dtypesライブラリを活用。計算にはTritonというGPUカーネル言語を使用し、Python風のコードでパックされたデータを処理。実際のベンチマークでは、GEMV演算においてFP8-E5M2で3.3倍の速度向上を達成（FP32ベースの5,635マイクロ秒 → 1,679マイクロ秒）。理論上の最大加速は4倍であり、実測値はそれに近い水準。 精度については、ランダム行列でのテストでE4M3とE5M2ともに深層学習用途において実用的な誤差範囲内にあることが確認された。ただし、厳密な数値精度が必要なケースでは個別検証が必要。 Featherはまだプロトタイプ段階だが、旧世代GPUでもFP8の恩恵を受けられるようにするための重要な取り組み。コミュニティからの貢献を歓迎しており、GitHubでコードを公開している。