Kernelisierte synaptische Gewichtsmatrizen

In diesem Artikel stellen wir eine neuartige neuronale Netzarchitektur vor, bei der Gewichtsmatrizen durch niedrigdimensionale Vektoren reparametrisiert werden, die über Kernfunktionen miteinander interagieren. Eine Schicht unseres Netzwerks kann als Einführung einer (potenziell unendlich breiten) linearen Schicht zwischen Eingabe und Ausgabe interpretiert werden. Wir beschreiben die zugrundeliegende Theorie dieses Modells und validieren es anhand konkreter Beispiele, wobei wir untersuchen, wie es eingesetzt werden kann, um Struktur in neuronale Netze in vielfältigen Anwendungen einzuführen – von der Datenvisualisierung bis hin zu Empfehlungssystemen. Wir erreichen einen Stand der Technik (state-of-the-art)-Leistungsniveau bei einer Aufgabe der kooperativen Filterung (MovieLens).