HyperAIHyperAI

Command Palette

Search for a command to run...

Dynamische Routing zwischen Kapseln

Sara Sabour Nicholas Frosst Geoffrey E. Hinton

Zusammenfassung

Eine Kapsel ist eine Gruppe von Neuronen, deren Aktivitätsvektor die Instanziierungsparameter einer bestimmten Entität, wie zum Beispiel eines Objekts oder eines Objektteils, repräsentiert. Wir verwenden die Länge des Aktivitätsvektors, um die Wahrscheinlichkeit darzustellen, dass die Entität existiert, und seine Ausrichtung, um die Instanziierungsparameter zu repräsentieren. Aktive Kapseln auf einer Ebene machen durch Transformationsmatrizen Vorhersagen für die Instanziierungsparameter von Kapseln auf höheren Ebenen. Wenn mehrere Vorhersagen übereinstimmen, wird eine Kapsel auf einer höheren Ebene aktiv. Wir zeigen, dass ein diskriminativ trainiertes Mehrebenen-Kapselsystem den aktuellen Stand der Technik (state-of-the-art) bei MNIST erreicht und erheblich besser als ein Faltungsnetz (convolutional net) in der Erkennung stark überlappender Ziffern ist. Um diese Ergebnisse zu erzielen, verwenden wir einen iterativen Übereinstimmungs-Routing-Mechanismus: Eine niedrigere Ebene von Kapseln bevorzugt das Senden ihrer Ausgabe an höhere Ebenen von Kapseln, deren Aktivitätsvektoren ein großes Skalarprodukt mit der Vorhersage haben, die von der niedrigeren Ebene stammt.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
Dynamische Routing zwischen Kapseln | Paper | HyperAI