Neuronale Flüsse: Effiziente Alternative zu neuronalen ODEs

Neuronale gewöhnliche Differentialgleichungen beschreiben, wie sich Werte im Laufe der Zeit verändern. Genau aus diesem Grund erlangten sie Bedeutung bei der Modellierung sequenzieller Daten, insbesondere wenn die Beobachtungen zu unregelmäßigen Zeitpunkten erfolgen. In diesem Artikel schlagen wir einen alternativen Ansatz vor, bei dem wir die Lösungskurven – also den Fluss einer gewöhnlichen Differentialgleichung – direkt mit einem neuronalen Netzwerk modellieren. Dies beseitigt sofort die Notwendigkeit aufwändiger numerischer Löser, ohne dabei die Modellierungskapazitäten neuronaler ODEs zu beeinträchtigen. Wir stellen mehrere Flussarchitekturen vor, die sich für unterschiedliche Anwendungen eignen, indem wir präzise Bedingungen angeben, unter denen eine Funktion einen gültigen Fluss definiert. Neben der verbesserten rechnerischen Effizienz liefern wir zudem empirische Hinweise auf eine günstige Generalisierungsfähigkeit, beispielsweise in Anwendungen zur Zeitreihenmodellierung, Vorhersage und Dichteschätzung.