HyperAIHyperAI

Command Palette

Search for a command to run...

Question-Réponse Ouverte avec des Modèles d'Embedding Faiblement Supervisés

Antoine Bordes Jason Weston Nicolas Usunier

Résumé

La construction d'ordinateurs capables de répondre à des questions sur n'importe quel sujet est un objectif de longue date de l'intelligence artificielle. Des progrès prometteurs ont récemment été réalisés par des méthodes qui apprennent à mapper les questions sous forme logique ou en requêtes de base de données. Ces approches peuvent être efficaces, mais au prix soit d'une grande quantité de données étiquetées par des humains, soit par la définition de lexiques et de grammaires adaptés par des praticiens. Dans cet article, nous adoptons une approche radicale consistant à apprendre à mapper les questions vers des représentations vectorielles de caractéristiques. En mappant les réponses dans le même espace, on peut interroger toute base de connaissances indépendamment de son schéma, sans nécessiter aucune grammaire ou lexique. Notre méthode est entraînée avec une nouvelle procédure d'optimisation combinant la descente stochastique du gradient suivie d'une étape de réglage fin utilisant la supervision faible fournie par le mélange de ressources générées automatiquement et collaborativement. Nous démontrons empiriquement que notre modèle peut capturer des signaux significatifs à partir de sa supervision bruyante, conduisant à des améliorations majeures par rapport à Paralex, la seule méthode existante capable d'être entraînée sur des données faiblement étiquetées similaires.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp