HyperAIHyperAI
vor 11 Tagen

Adaptive Convolution für multi-relationales Lernen

{Bin Wang, Xiaotian Jiang, Quan Wang}
Adaptive Convolution für multi-relationales Lernen
Abstract

Wir betrachten das Problem der Lernung verteilter Darstellungen für Entitäten und Relationen in mehrrelationalem Datenmaterial, um fehlende Verbindungen vorherzusagen. Kürzlich haben Faltungsneuronale Netze (Convolutional Neural Networks, CNNs) ihre Überlegenheit für dieses Problem gezeigt, indem sie eine erhöhte Modellausdrucksfähigkeit bieten, gleichzeitig aber parameter-effizient bleiben. Trotz dieses Erfolgs können bisherige Faltungsentwürfe die vollständigen Wechselwirkungen zwischen Eingabentitäten und -relationen nicht angemessen modellieren, was das Leistungspotenzial der Verbindungsprädiktion potenziell einschränkt. In dieser Arbeit stellen wir ConvR vor – ein adaptives Faltungsnetzwerk, das darauf ausgelegt ist, die Interaktionen zwischen Entitäten und Relationen in faltungsbasierter Weise zu maximieren. ConvR konstruiert adaptiv Faltungsfilter aus Relationendarstellungen und wendet diese Filter über Entitätsdarstellungen an, um faltungsbasierte Merkmale zu generieren. Dadurch ermöglicht ConvR reichhaltige Interaktionen zwischen Entitäts- und Relationendarstellungen an verschiedenen Regionen, und alle generierten faltungsbasierten Merkmale können solche Interaktionen erfassen. Wir evaluieren ConvR an mehreren Benchmark-Datensätzen. Experimentelle Ergebnisse zeigen: (1) ConvR erzielt in fast allen Metriken und auf allen Datensätzen deutlich bessere Ergebnisse als konkurrierende Baselines; (2) Im Vergleich zu aktuellen state-of-the-art Faltungsmodellen ist ConvR nicht nur effektiver, sondern auch effizienter. Es erreicht eine Steigerung von 7 % im MRR und eine Erhöhung um 6 % im Hits@10, während gleichzeitig 12 % an Speicherplatz für Parameter eingespart werden.