HyperAIHyperAI
vor 11 Tagen

Uni-MIS: Vereinigte mehrfache Absichtsprüfung sprachlicher Eingaben durch mehrfache Ansichts-Intention-Slot-Interaktion

{Yuhong Xu, Peijie Huang, Shangjian Yin}
Abstract

Bisher ist die mehrfach-intentionale sprachliche Verständnis (Spoken Language Understanding, SLU) aufgrund ihrer Fähigkeit, mehrere Absichten innerhalb einer einzigen Äußerung zu erkennen und zu extrahieren sowie entsprechende Sequenz-Slot-Tags zu annotieren, zu einem Forschungsschwerpunkt im Bereich der natürlichen Sprachverarbeitung (Natural Language Processing, NLP) geworden. Frühere Arbeiten konzentrierten sich hauptsächlich auf die Interaktion zwischen Token-Ebene und Absicht-Slot, um die gemeinsame Erkennung von Absichten und die Füllung von Slots zu modellieren. Dies führte jedoch dazu, dass die anisotrope, absichtsleitende Information während des gemeinsamen Trainings nicht vollständig genutzt wurde. In dieser Arbeit präsentieren wir eine neuartige Architektur, bei der das mehrfach-intentionale SLU als mehrschichtiges Absicht-Slot-Interaktionsmodell formuliert wird. Die Architektur beseitigt die zentrale Engstelle bei der einheitlichen mehrfach-intentionalen SLU, indem sie die Absicht-Slot-Beziehungen effizient auf drei Ebenen – Äußerungsebene, Chunk-Ebene und Token-Ebene – modelliert. Wir entwickeln weiterhin einen neuronalen Rahmenwerk, namens Uni-MIS, bei dem die einheitliche mehrfach-intentionale SLU als Fusion dreier Sichtweisen für Absicht-Slot-Interaktionen modelliert wird, um die Interaktionsinformationen nach einer speziellen Kodierung besser zu erfassen. Ein Chunk-Ebene-basierter Absichtserkennungsdecoder wird eingesetzt, um die Mehrfachabsichten umfassend zu erfassen, während ein adaptiver Absicht-Slot-Graph-Netzwerk feinabgestimmte Absichtsinformationen erfasst, um die endgültige Slot-Füllung zu leiten. Wir führen umfangreiche Experimente auf zwei weit verbreiteten Benchmark-Datensätzen für mehrfach-intentionale SLU durch, bei denen unser Modell alle aktuellen starken Baselines übertrifft und die Leistungsgrenze der einheitlichen mehrfach-intentionalen SLU erneut verbessert. Zudem zeigt der von uns entwickelte ChatGPT-Benchmark, dass im Bereich der mehrfach-intentionalen SLU ein erhebliches Potenzial an Forschungswert besteht.

Uni-MIS: Vereinigte mehrfache Absichtsprüfung sprachlicher Eingaben durch mehrfache Ansichts-Intention-Slot-Interaktion | Neueste Forschungsarbeiten | HyperAI