HyperAIHyperAI

Command Palette

Search for a command to run...

ITER : Reconnaissance itérative d'entités et extraction de relations basée sur un transformateur

Michaela Geierhos Florian Babl Moritz Hennen

Résumé

Lors de l’extraction d’informations structurées à partir de textes, la reconnaissance d’entités et l’extraction de relations sont des étapes essentielles. Les avancées récentes dans ces deux tâches permettent de générer une représentation structurée des informations de manière autoregressive, une approche coûteuse en temps et en ressources computationnelles. Cela soulève naturellement la question de savoir si les méthodes autoregressives sont réellement nécessaires pour atteindre des résultats comparables. Dans ce travail, nous proposons ITER, un modèle d’extraction de relations basé sur un encodeur, qui réalise la tâche en trois étapes parallélisables, accélérant ainsi considérablement une approche récente fondée sur le modèle de langage : ITER atteint une throughput d’inférence dépassant 600 échantillons par seconde pour un grand modèle sur une seule GPU grand public. En outre, nous obtenons des résultats de pointe sur les jeux de données d’extraction de relations ADE et ACE05, et démontrons des performances compétitives aussi bien pour la reconnaissance d’entités nommées sur GENIA et CoNLL03 que pour l’extraction de relations sur SciERC et CoNLL04.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp