HyperAIHyperAI
vor 2 Monaten

Unüberwachte Tiefstrukturierte Semantische Modelle für Alltagsverstandesreasoning

Shuohang Wang; Sheng Zhang; Yelong Shen; Xiaodong Liu; Jingjing Liu; Jianfeng Gao; Jing Jiang
Unüberwachte Tiefstrukturierte Semantische Modelle für Alltagsverstandesreasoning
Abstract

Alltagsvernunftschlussfolgerung ist grundlegend für das Verständnis natürlicher Sprache. Während traditionelle Methoden stark auf menschlich erstellten Merkmalen und Wissensbasen basieren, untersuchen wir das Lernen von Alltagswissen aus großen Mengen rohem Text durch unsupervises Lernen. Wir schlagen zwei neuronale Netzwerke vor, die auf dem Framework der tiefstrukturierten semantischen Modelle (Deep Structured Semantic Models, DSSM) basieren, um zwei klassische Aufgaben der Alltagsvernunftschlussfolgerung zu lösen: die Winograd-Schema-Herausforderungen (Winograd Schema Challenges, WSC) und die Pronomendisambiguierung (Pronoun Disambiguation, PDP). Die Evaluierung zeigt, dass die vorgeschlagenen Modelle kontextuelle Informationen im Satz sowie Ko-Referenzinformationen zwischen Pronomen und Substantiven effektiv erfassen und einen signifikanten Fortschritt gegenüber den bisherigen Stand der Technik erzielen.

Unüberwachte Tiefstrukturierte Semantische Modelle für Alltagsverstandesreasoning | Neueste Forschungsarbeiten | HyperAI