Gemeinsame sprachliche Semantik- und Struktur-Embedding für die Wissensgraphen-Vervollständigung

Die Aufgabe der Vervollständigung von Wissenstripeln hat breite Anwendungen in nachgeschalteten Aufgaben. Sowohl strukturelle als auch semantische Informationen spielen eine entscheidende Rolle bei der Vervollständigung von Wissensgraphen. Im Gegensatz zu früheren Ansätzen, die entweder auf der Struktur oder auf der Semantik von Wissensgraphen basieren, schlagen wir vor, die Semantik in den natürlichsprachlichen Beschreibungen der Wissenstripel gemeinsam mit deren strukturellen Informationen zu integrieren. Unser Ansatz vervollständigt Wissensgraphen durch Feinabstimmung vortrainierter Sprachmodelle unter Verwendung einer probabilistischen strukturierten Verlustfunktion, wobei der Vorwärtsdurchlauf der Sprachmodelle die Semantik erfasst und der Verlust die Struktur rekonstruiert. Umfangreiche Experimente an einer Vielzahl von Wissensgraphen-Benchmarks haben die state-of-the-art-Leistungsfähigkeit unseres Verfahrens nachgewiesen. Zudem zeigen wir, dass unser Ansatz die Leistung in einer Low-Resource-Umgebung erheblich verbessern kann, was auf die effizientere Nutzung semantischer Informationen zurückzuführen ist. Der Quellcode und die Datensätze sind unter https://github.com/pkusjh/LASS verfügbar.