Die rasante Einführung von KI-Coding-Tools bringt Teams in ein Dilemma, das als das Black-Box-Problem bekannt ist. Während die ersten Monate von doppelter Entwicklungsgeschwindigkeit und glücklichen Stakeholdern geprägt sind, steigt nach etwa drei Monaten die Zeit, die für sichere Änderungen an generiertem Code benötigt wird. Der Grund liegt nicht in der Qualität des Codes selbst, sondern in seiner Struktur. Wenn KI-Systeme Code in einer einzigen Sitzung generieren, entsteht oft ein Monolith, dessen Zusammenhänge nur für den ursprünglichen Kontextfenster verständlich sind. Funktionsunterschriften dokumentieren keine Annahmen, und Abhängigkeiten zwischen Diensten bleiben implizit, was jede Änderung zu einer umfassenden und tiefgreifenden Überprüfung zwingt. KI-generierter Code weist spezifische Tendenzen auf, die Wartungsprobleme verursachen. Erstens neigt die KI zu monolithischen Strukturen. Auf die Anfrage nach einer Bestellseite folgt oft eine einzige Datei, die Rendering, Zahlungsabwicklung und Validierung enthält. Dies erschwert Tests und Änderungen, da keine isolierte Bearbeitung möglich ist. Zweitens entstehen oft zirkuläre oder implizite Abhängigkeiten. Die KI verknüpft Dienste basierend auf dem Kontext, ohne ein globales Abhängigkeitsdiagramm zu berücksichtigen, was zu versteckten Kopplungen führt. Drittens fehlen klare Schnittstellen oder Verträge. Gut konzipierte Systeme definieren explizite Typen und API-Schemas, während KI dies oft überspringt. Schließlich liefert die KI ausführliche Dokumentation zur internen Implementierung, vernachlässigt aber Nutzungshinweise und Systemzusammenhänge. Ein konkreter Vergleich verdeutlicht den Unterschied. Eine unstrukturierte KI-Generierung erstellt ein Benachrichtigungssystem als einzelne Datei von 600 Zeilen, in der alle Logiken vermischt sind. Änderungen erfordern das Verständnis des gesamten Moduls. Im Gegensatz dazu zerlegt eine strukturierte Generierung das System in unabhängige Komponenten mit expliziten Schnittstellen und definierten Abhängigkeiten. Jeder Teil kann isoliert getestet und ersetzt werden, ohne das Gesamtsystem zu gefährden. Der entscheidende Faktor ist die Kompositionsfähigkeit: Systeme müssen aus Komponenten mit definierten Grenzen aufgebaut sein. Das Problem liegt weniger im Modell selbst, sondern in der Umgebung. Aktuelle Workflows lassen die KI Code ohne strukturelles Feedback in Echtzeit erzeugen. Um dies zu ändern, müssen Generierungsumgebungen Struktur als erste Klasse behandeln. Tools, die echte Rückmeldungen zu Grenzen, Abhängigkeiten und Tests geben, können die KI dazu zwingen, architektonisch korrekten Code zu produzieren. Erst wenn die Umgebung verhindert, dass unstrukturierte Module entstehen, wird der Code langfristig wartbar. Die wahre Messgröße für KI-Produktivität ist nicht die Geschwindigkeit der Codeerzeugung, sondern die Geschwindigkeit, mit der Code in Produktion gebracht und anschließend kontrolliert geändert werden kann. Teams, die tatsächlich schnell vorankommen, stellen sicher, dass der Code überprüfbar, auslieferbar und veränderbar ist. Dies erfordert praktische Maßnahmen: Entwickler müssen vor dem Prompfen klare Verantwortlichkeiten definieren, bereits generierten Code auf implizite Kopplungen auditieren und Tools wählen, die strukturelle Überprüfungen ermöglichen. Die Lösung des Black-Box-Problems liegt nicht in besseren Prompts, sondern in Umgebungen, die durch explizite Schnittstellen und validierte Abhängigkeitsgraphen Struktur erzwingen. Nur so entsteht Code, der nicht nur funktioniert, sondern auch langfristig gepflegt werden kann.