Valides JSON, falsche Daten: 5 LLM-Fehler

Technische Analyse zu strukturierten LLM-Ausgaben offenbart kritische Lücken in der Schema-Validierung. Während grammarbasierte Methoden wie XGrammar und vLLM das Parsing von JSON-Dokumenten nahezu zuverlässig lösen, entsteht durch die Zwangsstrukturierung ein neues Risiko: semantische Fehler durchlaufen die Validierung unbemerkt. Benchmarks von BAML belegen, dass unbeschränkte Generierung mit nachgelagerter Parsing-Prüfung bei Funktionsaufruf-Aufgaben mit 93,63 Prozent accuracy sogar höher lag als constrained decoding mit 91,37 Prozent. Weitere Studien von Lee und Tam quantifizieren den Trade-off: Erzwingen strikter Output-Formate reduziert die Modellgenauigkeit um drei bis neun Prozentpunkte, in mathematischen Reasoning-Aufgaben um über fünfzehn Prozent. Die Validierung gegen ein JSON-Schema oder Pydantic-Modelle stellt lediglich sicher, dass Feldtypen und Syntax korrekt sind. Sie erkennt jedoch nicht, ob die Inhalte kontextuell stimmen. Fünf spezifische Ausfallmuster zeigen sich häufig in Produktionssystemen: Enum-Halluzinationen, bei denen Modelle zwar valide, aber inhaltlich falsche Kategorien auswählen; vertrauenswürdige Fälschungen, bei denen Freitextfelder mit plausiblen, aber erfundenen Daten gefüllt werden; Kreuzfeld-Widersprüche, etwa positive Sentiment-Werte bei niedrigen Scores oder falsche Datumsreihenfolgen; distributionale Kollapse, bei denen Modelle durch grammatische Zwänge auf sichere Standardwerte konvergieren; und Array-Halluzinationen, bei denen leere Listen durch erfundene Elemente ersetzt werden. Da jede Validierung pro Feld isoliert stattfindet, bleiben diese inkonsistenten Records syntaktisch sauber und durchlaufen Downstream-Pipelines unauffällig. Ein häufiger Lösungsansatz, zusätzliche Validierungsregeln zu implementieren, stößt an Grenzen, da semantische Fehler offener Natur sind und kontinuierlich neue Ausprägungen annehmen. Als robustere Alternative zeigt sich das Resampling-Verfahren: Freie Textgenerierung, gefolgt von Parsing und bei Fehlschlag automatischem Neuaufruf. Dieses Vorgehen entlastet den Modell-Attention-Mechanismus von Formatierungsdruck und erzielt in Benchmarks eine höhere Ergebnisqualität, auch wenn Latenz durch Wiederholungen steigt. Experten empfehlen eine dreistufige Absicherung. Die erste Ebene bleibt die klassische Schema- und Strukturvalidierung. Die zweite Ebene integriert semantische Prüfroutinen, die Geschäftslogik, Kreuzfeld-Konsistenz und Werteverteilungen überwachen. Regelmäßige Stichproben auf mehrdeutige Inputs decken Fälschungen auf. Die dritte Ebene implementiert Unsicherheitsindikatoren, etwa durch Confidence-Scores pro Feld oder sekundäre LLM-basierte Verifikation kritischer Extraktionsergebnisse. Monitoring-Tools sollten statistische Signale wie Entropieabfall, Verteilungsverzerrung und häufige leere Arrays tracken, um schleichende Datenqualitätsverluste früh zu erkennen. Die technische Einschätzung bleibt klar: Schema-Validierung ist die notwendige Basis, jedoch keine hinreichende Garantie für Datenintegrität. Teams, die auf strukturierte LLM-Ausgaben angewiesen sind, müssen semantische Kontrollen und Unsicherheitsmanagement systematisch in ihre Architekturen integrieren, um stille Datenkorruption in Produktionssystemen zu verhindern.