HyperAIHyperAI

Command Palette

Search for a command to run...

Mehrperspektivische Kontextabgleichung für maschinelle Verstehen

Zhiyuan Liu Yong Li Xiaodong He

Zusammenfassung

Vorherige maschinelle Verständnis-Datensätze (Machine Comprehension, MC) sind entweder zu klein, um End-to-End-Tiefenlernmodelle zu trainieren, oder sie sind nicht schwierig genug, um die Fähigkeiten der aktuellen MC-Techniken angemessen zu bewerten. Der neu veröffentlichte SQuAD-Datensatz mildert diese Einschränkungen und bietet uns die Möglichkeit, realistischere MC-Modelle zu entwickeln. Basierend auf diesem Datensatz schlagen wir ein Multi-Perspektivisches Kontext-Matching-Modell (Multi-Perspective Context Matching, MPCM) vor, das ein End-to-End-System ist und direkt den Anfangs- und Endpunkt der Antwort in einem Textabschnitt vorhersagt. Unser Modell passt zunächst jedes Wort-Einbettungsvektor im Textabschnitt an, indem es ein Relevanzgewicht multipliziert, das im Vergleich zur Frage berechnet wird. Danach kodieren wir die Frage und den gewichteten Textabschnitt mithilfe bidirektionaler LSTMs (Long Short-Term Memory). Für jeden Punkt im Textabschnitt vergleicht unser Modell den Kontext dieses Punkts aus mehreren Perspektiven mit der kodierten Frage und erzeugt einen Matching-Vektor. Mit diesen Matching-Vektoren verwenden wir eine weitere bidirektionale LSTM, um alle Informationen zusammenzufassen und den Anfangs- und Endpunkt vorherzusagen. Die experimentellen Ergebnisse am Testset von SQuAD zeigen, dass unser Modell wettbewerbsfähige Ergebnisse auf dem Leaderboard erzielt.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp