Wahrscheinlichkeitsbasiertes Schließen mittels Tiefen Lernens: Neuronale Assoziationsmodelle

In dieser Arbeit schlagen wir einen neuen tiefen Lernansatz vor, den sogenannten neuronalen Assoziationsmodell (NAM), für wahrscheinlichkeitstheoretisches Schließen in der Künstlichen Intelligenz. Wir schlagen vor, neuronale Netze zu verwenden, um die Assoziation zwischen zwei beliebigen Ereignissen in einem Bereich zu modellieren. Die neuronalen Netze nehmen ein Ereignis als Eingabe und berechnen die bedingte Wahrscheinlichkeit des anderen Ereignisses, um zu modellieren, wie wahrscheinlich es ist, dass diese beiden Ereignisse miteinander assoziiert sind. Die tatsächliche Bedeutung der bedingten Wahrscheinlichkeiten variiert je nach Anwendung und hängt davon ab, wie die Modelle trainiert werden. In dieser Arbeit haben wir als zwei Fallstudien zwei NAM-Aufbauten untersucht: tiefe neuronale Netze (DNN) und relationsmodulierte neuronale Netze (RMNN), an mehreren wahrscheinlichkeitstheoretischen Schließproblemen in der KI, darunter die Erkennung von Textualentailment, die Klassifikation von Tripeln in multirelationellen Wissensbasen und das allgemeine Schließen. Experimentelle Ergebnisse auf mehreren gängigen Datensätzen, abgeleitet aus WordNet, FreeBase und ConceptNet, haben gezeigt, dass sowohl DNNs als auch RMNNs gleich gut abschneiden und die herkömmlichen Methoden für diese Schließprobleme erheblich übertreffen können. Darüber hinaus zeichnen sich RMNNs im Vergleich zu DNNs durch bessere Wissensübertragung aus: Ein vortrainiertes Modell kann schnell auf eine bisher unbekannte Relation erweitert werden, nachdem nur wenige Trainingsbeispiele beobachtet wurden. Um die Effektivität der vorgeschlagenen Modelle weiter zu beweisen, haben wir in dieser Arbeit NAMs zur Lösung anspruchsvoller Winograd-Schema-Probleme (WS) angewendet. Experimente mit einer Reihe von WS-Problemen zeigen, dass die vorgeschlagenen Modelle das Potenzial für allgemeines Schließen besitzen.