HyperAIHyperAI

Command Palette

Search for a command to run...

Few-shot Natural Language Generation für taskorientierte Dialoge

Baolin Peng Chenguang Zhu Chunyuan Li Xiujun Li Jinchao Li Michael Zeng Jianfeng Gao

Zusammenfassung

Als entscheidender Bestandteil von auf Aufgaben ausgerichteten Dialogsystemen wandelt das Natural Language Generation (NLG)-Modul eine in semantischer Form dargestellte Dialogaktion in eine Antwort in natürlicher Sprache um. Der Erfolg herkömmlicher, auf Vorlagen basierender oder statistischer Modelle beruht typischerweise auf umfangreichen, stark annotierten Datensätzen, die für neue Domänen nicht praktikabel sind. Daher ist es für ein NLG-System von entscheidender Bedeutung, sich mit begrenzten gelabelten Daten gut generalisieren zu können, was in realen Anwendungen erforderlich ist. Um diesem Ziel gerecht zu werden, präsentieren wir FewShotWoz, den ersten NLG-Benchmark, der die Few-Shot-Lernumgebung in auf Aufgaben ausgerichteten Dialogsystemen simuliert. Darüber hinaus entwickeln wir das SC-GPT-Modell. Es wird zunächst auf einer großen Menge annotierter NLG-Korpora vortrainiert, um eine steuerbare Generierungsfähigkeit zu erlangen, und anschließend mit nur wenigen domänenspezifischen Etiketten fine-tuned, um sich neuen Domänen anzupassen. Experimente auf FewShotWoz und dem großen Multi-Domain-WOZ-Datensatz zeigen, dass das vorgeschlagene SC-GPT im Vergleich zu bestehenden Methoden signifikant bessere Ergebnisse erzielt, gemessen an verschiedenen automatischen Metriken sowie menschlichen Bewertungen.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp