HyperAIHyperAI

Command Palette

Search for a command to run...

Zu skalierbaren und zuverlässigen Kapselnetzen für anspruchsvolle NLP-Anwendungen

Wei Zhao†, Haiyun Peng‡, Steffen Eger†, Erik Cambria‡, Min YangΦ

Zusammenfassung

Hindernisse, die die Entwicklung von Kapselnetzen für anspruchsvolle NLP-Anwendungen behindern, umfassen eine mangelnde Skalierbarkeit auf große Ausgaberaumdimensionen und weniger zuverlässige Routingprozesse. In dieser Arbeit stellen wir folgende Ansätze vor: 1) einen Übereinstimmungswert (agreement score), um die Leistung der Routingprozesse auf Instanzenebene zu bewerten; 2) einen adaptiven Optimierer, um die Zuverlässigkeit des Routings zu erhöhen; 3) Kapselkompression und teilweises Routing, um die Skalierbarkeit von Kapselnetzen zu verbessern. Wir überprüfen unseren Ansatz anhand zweier NLP-Aufgaben, nämlich der Multi-Label-Textklassifizierung und der Fragebeantwortung. Die experimentellen Ergebnisse zeigen, dass unser Ansatz in beiden Aufgaben erheblich bessere Ergebnisse als starke Konkurrenten erzielt. Darüber hinaus erhalten wir in Ressourcen-schwachen Szenarien mit wenigen Trainingsinstanzen die besten Ergebnisse.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp