摘要
将先验知识引导至神经网络（Neural Network, NN）的学习过程具有挑战性。相比之下，许多已知的属性（如空间平滑性或季节性）可通过在高斯过程（Gaussian Process, GP）中选择合适的核函数来轻松建模。若能在深度学习应用中引入此类已知属性的建模能力，将显著提升模型性能。例如，卷积神经网络（Convolutional Neural Networks, CNNs）广泛应用于遥感领域，而该领域通常受到强烈的季节性影响。为此，我们提出一种融合深度学习与高斯过程清晰建模能力的方法：采用复合核函数，将由神经网络隐式定义的核函数与另一用于刻画已知属性（如季节性）的显式核函数相结合。我们通过将深度网络与基于Nyström近似的高效映射相结合，实现了这一思想，该方法称为隐式复合核（Implicit Composite Kernel, ICK）。随后，我们采用“先采样、再优化”（sample-then-optimize）的策略来近似完整的高斯过程后验分布。实验结果表明，ICK在合成数据和真实世界数据集上均展现出卓越的性能与灵活性。我们相信，ICK框架可广泛应用于各类场景，以在神经网络中有效融入先验信息。