
摘要
我们介绍了MAC网络,这是一种新颖的全可微神经网络架构,旨在促进明确且富有表现力的推理。MAC网络摒弃了单一的整体式黑箱神经架构,转向一种既鼓励透明度又具备灵活性的设计。该模型通过将问题分解为一系列基于注意力的推理步骤来解决问题,每个步骤由一个新颖的递归记忆、注意和组合(Memory, Attention, and Composition, MAC)单元完成,这些单元在控制和存储之间保持分离。通过将这些单元串联起来并施加结构约束以调节它们之间的交互,MAC网络能够有效地学习从数据中直接推断出的迭代推理过程,并采用端到端的方法。我们在具有挑战性的CLEVR视觉推理数据集上展示了该模型的强大性能、鲁棒性和可解释性,达到了98.9%的新最高准确率,将前一最佳模型的错误率降低了一半。更重要的是,我们证明了该模型在计算效率和数据效率方面表现出色,特别是在实现强结果时所需的数据量仅为现有模型的五分之一。