HyperAIHyperAI

Command Palette

Search for a command to run...

vor einem Tag
Codegenerierung
LLM

Neues KI-Add-on automatisiert Programmieraufgaben lokal

Ein Forschungsteam der University of Waterloo, der Cornell University und der Harvard University hat ein neues KI-Paradigma namens Program-as-Weights vorgestellt, das Entwicklern ermöglicht, alltägliche Programmieraufgaben lokal und datenschutzkonform zu automatisieren. Die Ergebnisse wurden im Jahr 2026 auf dem Preprint-Server arXiv veröffentlicht. Bisher nutzten Entwickler Large Language Models primär über Cloud-Dienste, was erhebliche Risiken für die Datensicherheit mit sich bringt, hohe Kosten verursacht und die Softwareentwicklung von externen Anbieterupdates abhängig macht. Zudem sind leistungsfähige Modelle oft zu ressourcenintensiv für den lokalen Einsatz. Program-as-Weights umgeht diese Probleme durch eine einmal kompilieren, lokal ausführen-Strategie. Dabei wird ein großes Sprachmodell zunächst als Generator eingesetzt, um natürliche Sprachanweisungen des Entwicklers in ein minimales, wiederverwendbares KI-Add-On zu übersetzen. Dieses Add-On wird anschließend in ein kleines, lokal laufendes Modell integriert. Die Foundation Models werden damit vom direkten Problem solver zum Werkzeugbauer. Nach dem Initialisieren kann der entwickelte Prozess offline und ohne Internetverbindung ausgeführt werden. In Praxis Tests auf der Benchmark-Datenbank FuzzyBench, die zehn Millionen Beispiele für unscharfe Programmieraufgaben wie Log-Filterung oder JSON-Reparatur enthält, übertraf die Lösung die Erwartungen. Eine mit dem Add-On ausgestattete Mini-KI erzielte dabei eine Genauigkeit von 73,78 Prozent und lag damit deutlich über dem 68,7-Prozent-Ergebnis des deutlich umfangreicheren Modells Qwen3-32B, das über 50-mal mehr Parameter verfügt. Die Laufzeitperformance ist ebenfalls beeindruckend: Auf einem Mac mit M3-Chip verarbeitet das System rund 30 Tokens pro Sekunde, benötigt für das interpretierende Modell lediglich 430 Megabyte Speicher und erfordert keine Serverinfrastruktur. Der Forschungskollektiv hat den vollständigen Quellcode zur Verfügung gestellt und sieht in dem Ansatz einen Schritt hin zu einer neuen Architektur der KI-Entwicklung. Künftig sollen kleine Sprachmodelle als Laufzeitumgebung dienen, während große Modelle die Kompilierung der Gewichtungsparameter übernehmen. Diese Entwicklung adressiert gezielt die Schmerzpunkte moderner Softwareentwickler und verspricht eine dezentralere, schnellere und sicherere Integration von KI in den täglichen Programmierworkflow.

Verwandte Links