HyperAIHyperAI
il y a 2 mois

Question-Réponse Ouverte avec des Modèles d'Embedding Faiblement Supervisés

Antoine Bordes; Jason Weston; Nicolas Usunier
Question-Réponse Ouverte avec des Modèles d'Embedding Faiblement Supervisés
Résumé

La construction d'ordinateurs capables de répondre à des questions sur n'importe quel sujet est un objectif de longue date de l'intelligence artificielle. Des progrès prometteurs ont récemment été réalisés par des méthodes qui apprennent à mapper les questions sous forme logique ou en requêtes de base de données. Ces approches peuvent être efficaces, mais au prix soit d'une grande quantité de données étiquetées par des humains, soit par la définition de lexiques et de grammaires adaptés par des praticiens. Dans cet article, nous adoptons une approche radicale consistant à apprendre à mapper les questions vers des représentations vectorielles de caractéristiques. En mappant les réponses dans le même espace, on peut interroger toute base de connaissances indépendamment de son schéma, sans nécessiter aucune grammaire ou lexique. Notre méthode est entraînée avec une nouvelle procédure d'optimisation combinant la descente stochastique du gradient suivie d'une étape de réglage fin utilisant la supervision faible fournie par le mélange de ressources générées automatiquement et collaborativement. Nous démontrons empiriquement que notre modèle peut capturer des signaux significatifs à partir de sa supervision bruyante, conduisant à des améliorations majeures par rapport à Paralex, la seule méthode existante capable d'être entraînée sur des données faiblement étiquetées similaires.

Question-Réponse Ouverte avec des Modèles d'Embedding Faiblement Supervisés | Articles de recherche récents | HyperAI