16日前

確率的数値畳み込みニューラルネットワーク

Marc Finzi, Roberto Bondesan, Max Welling
確率的数値畳み込みニューラルネットワーク
要約

画像や時系列データなど、不規則にサンプリングされたまたは欠損値を含む連続的な入力信号は、従来の深層学習手法にとって困難な課題である。一貫性のある特徴表現は、入力の観測されていない領域における値に依存しなければならない。確率的数値計算(probabilistic numerics)の研究から着想を得て、本研究では特徴をガウス過程(Gaussian processes, GPs)として表現する確率的数値畳み込みニューラルネットワーク(Probabilistic Numeric Convolutional Neural Networks)を提案する。これにより、離散化誤差について確率論的な記述が可能となる。さらに、畳み込み層をこのガウス過程上で定義された偏微分方程式(PDE)の時間発展と非線形関数の合成として定義する。このアプローチは、たとえば回転群に対する回転等変換性(steerable equivariance)を自然に取り入れることができる。実験において、SuperPixel-MNISTデータセットでは従来の最良手法に比べて誤差が3倍低減され、また医療時系列データセットPhysioNet2012においても競争力のある性能を達成した。

確率的数値畳み込みニューラルネットワーク | 最新論文 | HyperAI超神経