Ein einfaches neuronales Netzwerkmodul für relationales Schließen

Relationales Denken ist ein zentrales Element allgemein intelligenten Verhaltens, hat sich jedoch als schwierig erwiesen, von neuronalen Netzen gelernt zu werden. In dieser Arbeit beschreiben wir, wie Relation Networks (RN) als einfaches Plug-and-Play-Modul verwendet werden können, um Probleme zu lösen, die grundlegend auf relationalem Denken basieren. Wir haben RN-verstärkte Netzwerke in drei Aufgaben getestet: visuelle Fragebeantwortung mit einem anspruchsvollen Datensatz namens CLEVR, bei dem wir eine Spitzenleistung erreichen, die sogar übermenschlich ist; textbasierte Fragebeantwortung mit der bAbI-Suite von Aufgaben; und komplexe Schlussfolgerungen über dynamische physikalische Systeme. Anschließend zeigen wir anhand eines sorgfältig zusammengestellten Datensatzes namens Sort-of-CLEVR, dass leistungsstarke Faltungsnetze nicht die allgemeine Fähigkeit besitzen, relationale Fragen zu beantworten, aber diese Fähigkeit erlangen können, wenn sie mit RNs ergänzt werden. Unsere Arbeit verdeutlicht, wie eine tiefes Lernarchitektur mit einem RN-Modul ausgestattet implizit Entitäten und deren Beziehungen entdecken und lernen kann.