HyperAIHyperAI

Command Palette

Search for a command to run...

vor 4 Monaten

Adaptive Convolution für multi-relationales Lernen

{Bin Wang Xiaotian Jiang Quan Wang}

Adaptive Convolution für multi-relationales Lernen

Abstract

Wir betrachten das Problem der Lernung verteilter Darstellungen für Entitäten und Relationen in mehrrelationalem Datenmaterial, um fehlende Verbindungen vorherzusagen. Kürzlich haben Faltungsneuronale Netze (Convolutional Neural Networks, CNNs) ihre Überlegenheit für dieses Problem gezeigt, indem sie eine erhöhte Modellausdrucksfähigkeit bieten, gleichzeitig aber parameter-effizient bleiben. Trotz dieses Erfolgs können bisherige Faltungsentwürfe die vollständigen Wechselwirkungen zwischen Eingabentitäten und -relationen nicht angemessen modellieren, was das Leistungspotenzial der Verbindungsprädiktion potenziell einschränkt. In dieser Arbeit stellen wir ConvR vor – ein adaptives Faltungsnetzwerk, das darauf ausgelegt ist, die Interaktionen zwischen Entitäten und Relationen in faltungsbasierter Weise zu maximieren. ConvR konstruiert adaptiv Faltungsfilter aus Relationendarstellungen und wendet diese Filter über Entitätsdarstellungen an, um faltungsbasierte Merkmale zu generieren. Dadurch ermöglicht ConvR reichhaltige Interaktionen zwischen Entitäts- und Relationendarstellungen an verschiedenen Regionen, und alle generierten faltungsbasierten Merkmale können solche Interaktionen erfassen. Wir evaluieren ConvR an mehreren Benchmark-Datensätzen. Experimentelle Ergebnisse zeigen: (1) ConvR erzielt in fast allen Metriken und auf allen Datensätzen deutlich bessere Ergebnisse als konkurrierende Baselines; (2) Im Vergleich zu aktuellen state-of-the-art Faltungsmodellen ist ConvR nicht nur effektiver, sondern auch effizienter. Es erreicht eine Steigerung von 7 % im MRR und eine Erhöhung um 6 % im Hits@10, während gleichzeitig 12 % an Speicherplatz für Parameter eingespart werden.

Benchmarks

BenchmarkMethodikMetriken
link-prediction-on-fb15kConvR
Hits@1: 0.720
Hits@10: 0.887
Hits@3: 0.826
MRR: 0.782
link-prediction-on-fb15k-237ConvR
Hits@1: 0.261
Hits@10: 0.528
Hits@3: 0.385
MRR: 0.350
link-prediction-on-wn18ConvR
Hits@1: 0.947
Hits@10: 0.958
Hits@3: 0.955
MRR: 0.951
link-prediction-on-wn18rrConvR
Hits@1: 0.443
Hits@10: 0.537
Hits@3: 0.489
MRR: 0.475

KI mit KI entwickeln

Von der Idee bis zum Start — beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und den besten GPU-Preisen.

KI-Co-Coding
Sofort einsatzbereit GPUs
Beste Preise
Jetzt starten

Hyper Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp