Liquid AI veröffentlicht d1-Entscheidungsmodelle für Edge

Liquid AI hat die offenen Entscheidungsmodelle d1-3B und das experimentelle d1-omni-600M aus der neuen d1-Serie veröffentlicht. Im Gegensatz zu herkömmlichen generativen Modellen, die sequenziell Tokens produzieren, agieren diese Modelle als reine Entscheidungssysteme: Sie beantworten Anfragen in einem einzigen Vorwärtsthroughlauf ohne Token-Generierung. Die Architektur basiert auf den Liquid Foundation Models (LFM) und wurde gezielt für ressourcenbeschränkte Edge-Umgebungen optimiert. In umfassenden Benchmarks auf sieben öffentlichen Datensätzen, die Textverständnis, Intentionserkennung, medizinische Fragen und mehrlinguales Verständnis abdecken, setzte sich das d1-3B mit einer Punkteschnitt von 82,9 an die Spitze und übertraf dabei vergleichbare Modelle mit vier Milliarden Parametern. Das kompaktere d1-omni-600M erreichte mit nur einem Viertel der Parameter eine Schnitt von 78,4 und schlägt damit das Decider-2B-Modell. Beide Versionen unterstützen multimodale Eingaben; d1-omni-600M integriert dabei explizit Sprach-, Text- und Bildverarbeitung, während d1-3B die visuellen Fähigkeiten seines LFM2.5-VL-3B-Backbones bewahrt. Die Latenzleistung wurde in Zusammenarbeit mit NVIDIA auf verschiedenen Edge- und Desktop-Hardwareplattformen validiert. Das d1-3B-Modell beantwortet einzelne Fragen auf NVIDIA Jetson AGX Thor, AGX Orin und Orin Nano in unter 50 Millisekunden. Auf Desktop-GPUs wie der RTX 4090 oder AMD MI325X sinkt die Antwortzeit auf unter 10 Millisekunden, wobei Bildverarbeitungsaufgaben für 384-Pixel-Auflösungen unter 18 Millisekunden bleiben. Durch gepackte Batch-Verarbeitung ohne Padding lässt sich der Durchsatz auf Edge-Geräten signifikant steigern, was den Einsatz in Echtzeit-Anwendungen ermöglicht. Die Modelle sind als Open-Weight-Versionen ab sofort auf Hugging Face verfügbar. Entwickler können sie über die Transformers-Bibliothek laden und nutzen die integrierten Code-Pfade direkt für strukturierte Entscheidungsfragen, Bildanalyse oder Batch-Requests. Der Fokus liegt klar auf schnellen, deterministischen Inferenzen für Kundenservice-Automatisierung, Inhaltsmoderation und medizinische Vorselektion. Die Veröffentlichung unterstreicht den Paradigmenwechsel hin zu spezialisierteren, effizienteren KI-Architekturen, die lokal auf dem Gerät arbeiten, ohne Cloud-Abhängigkeiten oder hohe Latenz zu generieren.