17日前
NeMo：Neural Modules を用いた AI アプリケーション構築のためのツールキット
Oleksii Kuchaiev, Jason Li, Huyen Nguyen, Oleksii Hrinchuk, Ryan Leary, Boris Ginsburg, Samuel Kriman, Stanislav Beliaev, Vitaly Lavrukhin, Jack Cook, Patrice Castonguay, Mariya Popova, Jocelyn Huang, Jonathan M. Cohen
要約
NeMo（Neural Modules）は、再利用性、抽象化、構成性を活用してAIアプリケーションを開発するための、Pythonフレームワークに依存しないツールキットです。NeMoは、型付きの入力を受け取り、型付きの出力を生成するニューラルネットワークの概念的な構成ブロックである「ニューラルモジュール」を中心に構築されています。これらのモジュールは、通常、データレイヤー、エンコーダ、デコーダ、言語モデル、損失関数、または活性化値の結合手法などを表します。NeMoは、これらの構成ブロックを簡単に組み合わせたり再利用したりできるようにしながら、ニューラル型システムを通じて意味的整合性の検証を提供します。本ツールキットには、自動音声認識（ASR）および自然言語処理（NLP）向けの拡張可能な事前構築モジュールのコレクションが含まれており、最新のNVIDIA GPUにおける分散学習およびミックスドプレシジョン（混合精度）学習の組み込みサポートも提供しています。NeMoはオープンソースであり、GitHubにて公開されています：https://github.com/NVIDIA/NeMo