Multi-Relational Embedding für die Repräsentation und Analyse von Wissensgraphen

Mehrfachrelationale Daten, wie Wissensgraphen, bibliografische Daten und Informationsnetzwerke, sind in realen Datensätzen weit verbreitet. Ihre effektive Verwaltung, Exploration und Nutzung stellt aufgrund ihrer Größe und Komplexität eine große Herausforderung dar. In den letzten Jahren sind mehrfachrelationale Embedding-Methoden als ein effektiver Ansatz zur Modellierung mehrfachrelationaler Daten hervorgetreten, indem sowohl Entitäten als auch Relationen als Embedding-Vektoren im semantischen Raum dargestellt werden. Auf Wissensgraphen zielen mehrfachrelationale Embedding-Methoden darauf ab, die Wechselwirkungen zwischen diesen Embedding-Vektoren zu modellieren, um die relationalen Verbindungen zwischen Entitäten vorherzusagen. Diese Wissensgraph-Embedding-Methoden lösen die zentrale, inhärente Aufgabe der Link-Vorhersage für die Vervollständigung von Wissensgraphen und liefern zudem Embedding-Repräsentationen, die eine Vielzahl potenzieller Anwendungen ermöglichen. Ziel dieser Arbeit ist es zunächst, mehrfachrelationale Embedding-Methoden auf Wissensgraphen zu untersuchen, um ein neues Embedding-Modell vorzuschlagen, das bestehende Ansätze erklären und verbessern kann, und anschließend die Anwendungen mehrfachrelationaler Embedding-Methoden zur Repräsentation und Analyse von Wissensgraphen zu erforschen.Im ersten Teil der Arbeit untersuchen wir den theoretischen Rahmen von Wissensgraph-Embedding-Methoden, um diese zu erklären und zu verbessern. Wir analysieren die gängige Klasse semantischer Übereinstimmungs-Modelle für Wissensgraphen mit besonderem Fokus auf state-of-the-art-Modelle basierend auf trilinearen Produkten, wie beispielsweise ComplEx. Auf Basis dieser Analyse identifizieren wir zwei grundlegende, sich ergänzende Aspekte, die ein Wissensgraph-Embedding-Modell berücksichtigen muss: Recheneffizienz und Modellausdruckskraft. Bisherige trilineare Produkt-basierte Modelle verwenden speziell entworfene Interaktionsmechanismen, um manuell einen Kompromiss zwischen diesen beiden Aspekten herzustellen. Diese Interaktionsmechanismen sind jedoch speziell entworfen und festgelegt, was zu suboptimalen Lösungen oder Schwierigkeiten bei der Erweiterbarkeit führen kann. In dieser Arbeit schlagen wir das Multi-Partition Embedding Interaction (MEI)-Modell mit Block-Term-Format vor, um dieses Problem systematisch anzugehen. MEI zerlegt jeden Embedding-Vektor in mehrere Partitionen, um die Interaktionen effizient einzuschränken. Jede lokale Interaktion wird mit dem Tucker-Tensor-Format modelliert, während die gesamte Interaktion mit dem Block-Term-Tensor-Format beschrieben wird. Dadurch kann MEI den Kompromiss zwischen Ausdruckskraft und rechnerischem Aufwand kontrollieren und die Interaktionsmechanismen automatisch aus den Daten lernen. Das Modell kombiniert fortschrittliche Tensor-Repräsentationsformate mit modernen Techniken des tiefen Lernens und erreicht eine state-of-the-art-Leistung bei der Link-Vorhersage. Der theoretische Rahmen des MEI-Modells wird anschließend als allgemeiner Mechanismus für Wissensgraph-Embedding genutzt, um frühere Modelle zu analysieren, zu erklären und zu generalisieren. Zudem werden Verbindungen zu Word-Embeddings und Sprachmodellierung hergestellt, um neue Einsichten und Verallgemeinerungen zu liefern.Im zweiten Teil der Arbeit untersuchen wir, wie mehrfachrelationale Embedding-Methoden zur Repräsentation und Analyse von Wissensgraphen eingesetzt werden können. Im Gegensatz zu Word-Embeddings sind semantische Strukturen wie Ähnlichkeits- oder Analogiestrukturen im Embedding-Raum von Wissensgraphen bisher wenig erforscht und werden daher in der Regel nicht für die Datenrepräsentation und -analyse genutzt. Um die Anwendbarkeit mehrfachrelationaler Embeddings zu demonstrieren, formulieren wir einen Rahmen für Datenrepräsentation und -analyse durch semantische Abfragen im mehrfachrelationalem Embedding-Raum. Wir erstellen einen Wissensgraphen aus wissenschaftlichen Daten und zeigen, wie verschiedene Aufgaben auf den ursprünglichen Datensätzen durch geeignete semantische Abfragen approximiert werden können, die mehrfachlineare algebraische Operationen im mehrfachrelationalem Embedding-Raum darstellen. Zudem untersuchen wir theoretisch die Aufgabe der Entitäten-Analogie-Reasoning im mehrfachrelationalem Embedding-Raum, die als offene relationale Abfrage-Aufgabe durch Beispiele formuliert werden kann, also eine relationale Abfrage auf bisher nicht gesehene Relationen durchführt. Unter Ausnutzung der mathematischen Verbindungen zwischen Wissensgraph-Embeddings und Word-Embeddings analysieren wir die semantischen Strukturen im Embedding-Raum von Wissensgraphen und schlagen potenzielle Lösungsansätze für die oben genannte Aufgabe der Entitäten-Analogie-Reasoning vor. Ziel dieses Vorhabens ist es, die potenziellen Anwendungen der jüngsten Fortschritte in der mehrfachrelationalen Embedding-Forschung für die Datenrepräsentation und -analyse zu erkunden, insbesondere um deren Wirksamkeit bei wissenschaftlichen Daten zu verbessern.