Google hat mit dem Open-Source-Framework LangExtract und dem leichten, leistungsstarken Modell Gemma 3 eine effiziente Lösung für die strukturierte Datenextraktion aus unstrukturierten Texten geschaffen – insbesondere für komplizierte Dokumente wie Versicherungsverträge, medizinische Akten oder Compliance-Berichte. Diese Dokumente sind oft langwierig und schwer zu durchforsten, da wichtige Informationen wie Versicherungssummen, Ausschlüsse oder Verpflichtungen in dichtem, unformatiertem Text versteckt sind. LangExtract nutzt die Fähigkeiten von LLMs, um diese Informationen präzise zu identifizieren und in eine klare, nutzbare Struktur zu bringen. LangExtract ist eine Python-Bibliothek, die es ermöglicht, benutzerdefinierte Extraktionsanweisungen zu definieren, um Entitäten wie Ausschlüsse, Bedingungen oder Vertragsparteien zu erkennen und deren Beziehungen logisch zu verknüpfen. Besonders überzeugend ist die Einfachheit: Mit wenigen Codezeilen kann man komplexe Dokumente analysieren. Die Leistung wird durch drei Kernfunktionen gestärkt: intelligente Chunking-Strategien, parallele Verarbeitung und mehrere Extraktionsdurchläufe. Die Chunking-Technik teilt Dokumente nicht willkürlich, sondern respektiert Satz- und Absatzgrenzen, um Kontextverlust zu vermeiden. Parallelverarbeitung beschleunigt die Analyse großer Texte, während mehrfache Durchläufe die Erinnerung (Recall) erhöhen, indem sie durch die Zufälligkeit der LLM-Ausgabe verpasste Informationen aufspüren – mit einem „erster Durchlauf gewinnt“-Prinzip zur Konfliktlösung. Zur Durchführung wurde das Gemma 3 4B-Modell lokal über Ollama bereitgestellt, das die Nutzung von LLMs ohne Cloud-Abhängigkeit ermöglicht. Die Umsetzung beginnt mit der PDF-Verarbeitung mittels PyMuPDF, wobei der Text in ein strukturiertes Dokumentformat überführt wird. Anschließend folgt die Prompt-Engineering-Phase: Ein systematischer Prompt definiert die gewünschte JSON-Ausgabe, was entscheidend ist, da Gemma 3 keine integrierte strukturierte Ausgabe unterstützt. Mit Few-Shot-Beispielen – konkreten Auszügen aus Versicherungsverträgen – wird dem Modell klar gemacht, was extrahiert werden soll und wie es formatiert werden muss. Der Extraktionslauf selbst ist einfach zu implementieren und liefert innerhalb weniger Minuten Ergebnisse für ein 10-seitiges Dokument auf einer GPU mit 8 GB VRAM. Die Ausgabe wird in JSON gespeichert und nachbearbeitet, sodass Ausschlüsse klar strukturiert erscheinen: jeweils mit dem Originaltext und einer einfachen Erklärung in natürlicher Sprache. Dies macht komplexe Vertragsklauseln für Nicht-Sachverständige verständlich. Industrieexperten schätzen die Kombination aus LangExtract und Gemma 3 als eine bedeutende Fortschrittsstufe im Bereich automatisierter Dokumentenanalyse. Sie hebt sich durch Transparenz, Kontrollierbarkeit und lokale Ausführung ab – besonders relevant für datenschutzkritische Anwendungen. Google positioniert sich mit Gemma 3 und LangExtract als führender Akteur im Bereich offener, performanter LLMs, die auch auf lokalen Geräten skalierbar sind. Für Entwickler und Datenanalysten bietet die Lösung eine praktikable, kosteneffiziente Alternative zu kommerziellen APIs, insbesondere in Regulierungs- und Versicherungsbranche.