摘要
神经自回归分布估计器（Neural Autoregressive Distribution Estimator, NADE）及其实值版本RNADE在多种领域的多维数据密度建模中表现出色。这些模型使用一种固定且任意的数据维度顺序。可以轻松地对排序靠前的变量进行条件化，并对排序靠后的变量进行边缘化处理，但其他推理任务则需要近似推断。在本研究中，我们提出了一种高效的程序，通过共享所有这些模型的参数，同时训练每个可能的变量顺序对应的NADE模型。因此，我们可以针对每项推理任务使用最方便的模型，并且可以立即获得具有不同顺序的此类模型的集成。此外，与原始NADE不同，我们的训练程序适用于深度模型。实验结果表明，深度NADE模型的集成在密度估计性能方面达到了当前最佳水平。