Command Palette
Search for a command to run...
Unüberwachte Tiefstrukturierte Semantische Modelle für Alltagsverstandesreasoning
Unüberwachte Tiefstrukturierte Semantische Modelle für Alltagsverstandesreasoning
Shuohang Wang extsuperscript1,* Sheng Zhang extsuperscript2 Yelong Shen extsuperscript4 Xiaodong Liu extsuperscript3 Jingjing Liu extsuperscript3 Jianfeng Gao extsuperscript3 Jing Jiang extsuperscript1
Zusammenfassung
Alltagsvernunftschlussfolgerung ist grundlegend für das Verständnis natürlicher Sprache. Während traditionelle Methoden stark auf menschlich erstellten Merkmalen und Wissensbasen basieren, untersuchen wir das Lernen von Alltagswissen aus großen Mengen rohem Text durch unsupervises Lernen. Wir schlagen zwei neuronale Netzwerke vor, die auf dem Framework der tiefstrukturierten semantischen Modelle (Deep Structured Semantic Models, DSSM) basieren, um zwei klassische Aufgaben der Alltagsvernunftschlussfolgerung zu lösen: die Winograd-Schema-Herausforderungen (Winograd Schema Challenges, WSC) und die Pronomendisambiguierung (Pronoun Disambiguation, PDP). Die Evaluierung zeigt, dass die vorgeschlagenen Modelle kontextuelle Informationen im Satz sowie Ko-Referenzinformationen zwischen Pronomen und Substantiven effektiv erfassen und einen signifikanten Fortschritt gegenüber den bisherigen Stand der Technik erzielen.