Wissensgraphen steigern RAG-Genauigkeit

Forscher des Vector Institute haben einen neuartigen Ansatz vorgestellt, der Retrieval-Augmented-Generation-Systeme durch integrierte Wissensgraphen erheblich verbessert. Traditionelle RAG-Modelle stützen sich primär auf Vektorähnlichkeit und behandeln Dokumentabschnitte als isolierte Einheiten. Dies führt bei komplexen, beziehungsreichen Fragestellungen häufig zu Kontextverlust und ungenauen Ergebnissen. Die aktuelle Studie von Ali Kore und Amrit Krishnan adressiert dieses Problem durch einen wissensgraphenbasierten Retrieval-Mechanismus, der semantische Suche mit expliziten Entitäten- und Beziehungsstrukturen kombiniert. Der vorgestellte Entity-Based KG-RAG-Ansatz modifiziert die Wissensspeicher- und Retrievalkomponente traditioneller RAG-Architekturen. Anstelle reiner Chunk-Embeddings wird ein strukturierter Graph generiert, in dem Entitäten und ihre Relationen aus Dokumenten extrahiert werden. Die Graphenkonstruktion erfolgt mittels spezieller LLM-Prompting-Verfahren, wobei dokumentenspezifische Metadaten durch vorangestellte Hyphenierung direkt in die Entitäts-Embeddings integriert werden, um Kontextverlust bei der Textsegmentierung zu vermeiden. Bei der Antwortgenerierung sucht das System zunächst nach ähnlichkeitsbasierten Entitäten im Graphen, durchsucht anschließend deren lokales Subgraph-Umfeld und aggregiert relevante Dokumentabschnitte über ein gewichtetes Chunk-Entity-Voting. Zur Evaluierung nutzten die Autoren einen auf SEC-10-Q-Berichten großer Technologiekonzerne basierenden Datensatz. Gegenüber einer standardisierten Vektor-RAG-Baseline zeigte der KG-Ansatz signifikante Leistungssteigerungen. Mit GPT-4o stieg die Exaktheit der numerischen Antworten von 40 auf 55 Prozent, mit GPT-4o-mini sogar von 36,36 auf 56 Prozent. Die strukturierten Graphen kompensierten somit teilweise die inhärenten Grenzen kleinerer Sprachmodelle. Die Latenz blieb dank effizienter Subgraph-Exploration minimal, und die Fehlersanalysen zeigten, dass KG-RAG insbesondere Fragen bewältigt, die Multi-Hop-Reasoning erfordern. Optimale Ergebnisse erzielten Konfigurationen mit 30 bis 40 top-ähnlichen Startentitäten. Neben dem Entity-Ansatz wurden alternative Graphen-RAG-Methoden wie Cypher-basierte Abfragen und Community-Detection-Verfahren wie GraphRAG evaluiert. Letztere zeigten unter Standardparametern bisher geringere Trefferraten, was auf die komplexe Struktur Finanzdokumente hinweist. Die Forschung unterstreicht, dass die Integration struktureller Wissensgraphen RAG-Systeme insbesondere für datenintensive, regelgeleitete Domänen wie Finanzen oder Recht zukunftsfähig macht. Transparente Retrieval-Pfade erhöhen die Nachvollziehbarkeit, während offene Herausforderungen in der automatischen Graphenwartung und domänenspezifischen Ontologie bleiben. Der vollständige Quellcode ist öffentlich verfügbar und bietet eine Grundlage für weitere Optimierungen im Bereich strukturierter Generative-KI-Systeme.