KI denkt ohne Worte und senkt Rechenkosten

Die Firma Pathway hat mit BDH-CQ ein KI-Modell vorgestellt, das mit lediglich 150 Millionen Parametern auskommt und damit deutlich unter der Skalierung heutiger LLMs liegt. Statt herkömmliche Sprachmodelle zu verwenden, die komplexe Aufgaben durch schrittweise Textgenerierung lösen, verarbeitet BDH-CQ Daten über einen wiederkehrenden latenten Arbeitsgedächtnis-Mechanismus. Bei der Inference werden Beispielrechnungen direkt in den internen Speicher integriert, woraufhin die Lösung durch iterative, kontinuierliche Berechnung ohne verbale Zwischenschritte gefunden wird. Dieser Architekturansatz eliminiert den ressourcenintensiven Verbalisierungsprozess und reduziert den Energie- sowie Rechenaufwand erheblich. Zur Leistungsprüfung diente der Benchmark ARC-AGI-1, der visuelle Mustererkennung erfordert. Bei zwei Versuchen pro Aufgabe bewältigte BDH-CQ 29,5 Prozent der Tests und generierte dabei Kosten von nur 0,00070 US-Dollar pro Bearbeitung. Damit durchbrach das System die zuvor bestehende Kosten-Effizienz-Grenzkurve und etablierte einen neuen Referenzwert für das Benchmark-Feld. Unabhängige Reproduktionstests durch Forscher der Bielik AI sowie der New York University bestätigten die Messungen und unterstrichen die erfolgreiche Kombination aus kontextuellem Lernen und wiederkehrender latenter Schlussfolgerung in einem kompakten System. Trotz der hohen Effizienz zeigt BDH-CQ bei der Evaluierung auch klare Grenzen. Einfache visuelle Transaktionen wie das Kopieren von Grundformen oder das Verlängern von Strukturen gelingen problemlos, bei komplexeren Anforderungen wie der Sortierung größerer Objektmengen oder mehrstufigen visuellen Deduktionen stößt das Modell jedoch an seine aktuellen Kapazitätsgrenzen. Pathway plant daraufhin, erweiterte Versionen der Architektur auf mathematische, linguistische und anspruchsvolle visuelle Probleme zu trainieren, um die allgemeine Rechenfähigkeit zu steigern. Die technischen Grundlagen wurden auf dem Preprint-Server arXiv veröffentlicht und markieren einen potenziellen Meilenstein hin zu kostengünstigerer, nicht-verbalisierter KI-Verarbeitung.