HyperAIHyperAI
vor 2 Monaten

End-to-End strukturbewusste Faltungsnetze für die Vervollständigung von Wissensbasen

Chao Shang; Yun Tang; Jing Huang; Jinbo Bi; Xiaodong He; Bowen Zhou
End-to-End strukturbewusste Faltungsnetze für die Vervollständigung von Wissensbasen
Abstract

Die Einbettung von Wissensgraphen ist ein aktives Forschungsthema für die Vervollständigung von Wissensbasen, mit fortschreitenden Verbesserungen von den anfänglichen Ansätzen wie TransE, TransH, DistMult usw. bis hin zu den aktuellen Stand der Technik ConvE. ConvE nutzt zweidimensionale Faltungen über Einbettungen und mehrere Schichten nichtlinearer Merkmale, um Wissensgraphen zu modellieren. Das Modell kann effizient trainiert werden und skaliert gut auf große Wissensgraphen. Allerdings gibt es in dem Einbettungsraum von ConvE keine Strukturzwänge. Die jüngsten Graphenkonvolutionellen Netze (GCNs) bieten eine alternative Methode zur Lernstrukturierung der Knoteneinbettungen in einem Graphen durch erfolgreiche Nutzung der Graphenkonnektivität. In dieser Arbeit schlagen wir ein neues end-to-end strukturbewusstes Konvolutionsnetzwerk (SACN) vor, das die Vorteile von GCN und ConvE kombiniert. SACN besteht aus einem Encoder eines gewichteten Graphenkonvolutionellen Netzes (WGCN) und einem Decoder eines Konvolutionsnetzes namens Conv-TransE. Das WGCN nutzt die Knotenstruktur des Wissensgraphen, Knoteneigenschaften und Kantenrelationstypen. Es verfügt über lernfähige Gewichte, die die Menge der Informationen anpassen, die bei lokaler Aggregation von Nachbarn verwendet wird, was zu genauereren Einbettungen der Graphenknoten führt. Die Knoteneigenschaften im Graphen werden als zusätzliche Knoten im WGCN dargestellt. Der Decoder Conv-TransE ermöglicht es dem aktuellen Stand der Technik ConvE, zwischen Entitäten und Relationen übersetzungsfähig zu sein, während er gleichzeitig dieselbe Leistung bei Link-Vorhersage wie ConvE beibehält. Wir zeigen die Effektivität des vorgeschlagenen SACN anhand der Standard-Datensätze FB15k-237 und WN18RR und erreichen damit etwa 10% relative Verbesserung gegenüber dem aktuellen Stand der Technik ConvE in Bezug auf HITS@1, HITS@3 und HITS@10.

End-to-End strukturbewusste Faltungsnetze für die Vervollständigung von Wissensbasen | Neueste Forschungsarbeiten | HyperAI