HyperAIHyperAI
vor 2 Monaten

Kontinuierlich zu sein oder diskret zu sein, das sind Fragmente von Fragen.

Yiran Wang; Masao Utiyama
Kontinuierlich zu sein oder diskret zu sein, das sind Fragmente von Fragen.
Abstract

Kürzlich wurde die binäre Darstellung als eine neuartige Darstellung vorgeschlagen, die zwischen kontinuierlichen und diskreten Darstellungen liegt. Sie zeigt eine erhebliche Informationsbewahrungsfähigkeit auf, wenn sie zur Ersatz von kontinuierlichen Eingabevektoren eingesetzt wird. In dieser Arbeit untersuchen wir die Machbarkeit ihrer weiteren Einführung auf der Ausgabeseite, mit dem Ziel, Modellen zu ermöglichen, binäre Labels auszugeben. Um sowohl strukturelle Informationen als auch Labelinformationen auf der Ausgabeseite zu bewahren, erweitern wir die bisherige kontrastive Hashing-Methode zur strukturierten kontrastiven Hashing-Methode. Genauer gesagt heben wir CKY vom Label-Level auf den Bit-Level an, definieren eine neue Ähnlichkeitsfunktion mit Spannenrandwahrscheinlichkeiten und führen eine neuartige kontrastive Verlustfunktion mit einer sorgfältig gestalteten Instanzselektionsstrategie ein. Unser Modell erreicht wettbewerbsfähige Leistungen bei verschiedenen strukturierten Vorhersageaufgaben und zeigt, dass die binäre Darstellung als eine neuartige Darstellung betrachtet werden kann, die den Abstand zwischen der kontinuierlichen Natur des Deep Learnings und der diskreten intrinsischen Eigenschaft natürlicher Sprachen weiter verringert.

Kontinuierlich zu sein oder diskret zu sein, das sind Fragmente von Fragen. | Neueste Forschungsarbeiten | HyperAI