HyperAIHyperAI

Command Palette

Search for a command to run...

Zweistufiges überwachtes kontrastives Lernen für die Antwortauswahl in mehrstufigen Dialogen

Wentao Zhang Shuang Xu Haoran Huang

Zusammenfassung

Die Auswahl einer angemessenen Antwort aus zahlreichen Kandidaten aufgrund der Äußerungen in einem mehrfach vermittelten Dialog ist das Kernproblem eines auf Retrieval basierenden Dialogsystems. Bestehende Arbeiten formulieren die Aufgabe als Übereinstimmung zwischen den Äußerungen und einem Kandidaten und verwenden bei der Modelllernen den Kreuzentropieverlust. In dieser Arbeit wird das Kontrastive Lernen durch Anwendung des überwachten kontrastiven Verlustes auf das Problem angewendet. Auf diese Weise können die gelernten Repräsentationen positiver Beispiele und die Repräsentationen negativer Beispiele im Einbettungsraum stärker voneinander getrennt werden, was die Leistungsfähigkeit der Übereinstimmung verbessert. Wir entwickeln außerdem eine neue Methode für das überwachte kontrastive Lernen, die als zweistufiges überwachtes kontrastives Lernen (two-level supervised contrastive learning) bezeichnet wird, und wenden diese Methode bei der Antwortauswahl in mehrfach vermittelten Dialogen an. Unsere Methode nutzt zwei Techniken: Satztokenvermischung (STS) und Satzwiederanordnung (SR) für das überwachte kontrastive Lernen. Experimentelle Ergebnisse auf drei Benchmark-Datensätzen zeigen, dass die vorgeschlagene Methode erheblich besser abschneidet als die Baseline des kontrastiven Lernens und die bislang besten Methoden für diese Aufgabe.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp