HyperAIHyperAI
vor 2 Monaten

Struktur-erhaltende Transformer für Folgen von SPD-Matrizen

Mathieu Seraphim; Alexis Lechervy; Florian Yger; Luc Brun; Olivier Etard
Struktur-erhaltende Transformer für Folgen von SPD-Matrizen
Abstract

In den letzten Jahren wurden transformerbasierte Selbst-Aufmerksamkeitsmechanismen erfolgreich auf die Analyse verschiedener kontextabhängiger Datentypen angewendet, von Texten über Bilder bis hin zu Daten aus nicht-euklidischen Geometrien. In dieser Arbeit stellen wir einen solchen Mechanismus vor, der entwickelt wurde, um Sequenzen symmetrisch positiv definiter Matrizen zu klassifizieren, während ihre riemannsche Geometrie während der gesamten Analyse erhalten bleibt. Wir wenden unsere Methode auf die automatische Schlafstadieneinteilung anhand von Zeitreihen elektroenzephalografisch (EEG) abgeleiteter Kovarianzmatrizen aus einem Standard-Datensatz an und erzielen hohe Stadien-genauigkeiten.

Struktur-erhaltende Transformer für Folgen von SPD-Matrizen | Neueste Forschungsarbeiten | HyperAI