HyperAIHyperAI

Command Palette

Search for a command to run...

RussianSuperGLUE: Ein Bewertungsbenchmark für die Verständnisfähigkeit der russischen Sprache

Tatiana Shavrina Alena Fenogenova Anton Emelyanov Denis Shevelev Ekaterina Artemova Valentin Malykh Vladislav Mikhailov Maria Tikhonova Andrey Chertok Andrey Evlampiev

Zusammenfassung

In dieser Arbeit stellen wir eine fortschrittliche russische Bewertungsbasis für allgemeine Sprachverarbeitung – RussianGLUE – vor. Die jüngsten Fortschritte im Bereich universeller Sprachmodelle und Transformer erfordern die Entwicklung einer Methodik zur umfassenden Diagnostik und zum Testen allgemeiner intellektueller Fähigkeiten, wie der Erkennung von natürlicher Sprachinferenz, dem常识推理 (commonsense reasoning) und der Durchführung einfacher logischer Operationen, unabhängig vom Textthema oder Vokabular. Zum ersten Mal wurde ein Benchmark mit neun Aufgaben für die russische Sprache entwickelt, der analog zur SuperGLUE-Methode aufgebaut ist. Wir liefern Baselines, menschliche Bewertungsstandards, einen Open-Source-Rahmen zur Modellbewertung (https://github.com/RussianNLP/RussianSuperGLUE) sowie eine Gesamtrangliste von Transformer-Modellen für die russische Sprache. Darüber hinaus präsentieren wir die ersten Ergebnisse des Vergleichs multilingualer Modelle in dem angepassten diagnostischen Testset und schlagen erste Schritte vor, um den weiteren Ausbau oder die unabhängige Bewertung der neuesten Modelle über die Sprache hinaus zu fördern.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp