NeMo: Ein Toolkit zum Aufbau von KI-Anwendungen mithilfe von Neural Modules

NeMo (Neural Modules) ist ein framework-agnostisches Toolkit in Python zur Erstellung von KI-Anwendungen durch Wiederverwendbarkeit, Abstraktion und Komposition. NeMo basiert auf neuronalen Modulen – konzeptionellen Bausteinen neuronaler Netze, die typisierte Eingaben entgegennimmt und typisierte Ausgaben erzeugt. Solche Module stellen typischerweise Datenebenen, Encoder, Decoder, Sprachmodelle, Verlustfunktionen oder Methoden zur Kombination von Aktivierungen dar. NeMo erleichtert die Kombination und Wiederverwendung dieser Bausteine und bietet über sein neuronales Typsystem ein Maß an semantischer Korrektheitsprüfung. Das Toolkit verfügt über erweiterbare Sammlungen vorgefertigter Module für die automatische Spracherkennung und natürliche Sprachverarbeitung. Zudem unterstützt NeMo integrierte Funktionen für verteiltes Training und Mixed-Precision-Training auf den neuesten NVIDIA-GPUs. NeMo ist Open-Source: https://github.com/NVIDIA/NeMo