HyperAIHyperAI
il y a 2 mois

Réseaux de Prédicteurs Latents pour la Génération de Code

Wang Ling; Edward Grefenstette; Karl Moritz Hermann; Tomáš Kočiský; Andrew Senior; Fumin Wang; Phil Blunsom
Réseaux de Prédicteurs Latents pour la Génération de Code
Résumé

De nombreuses tâches de génération de langage nécessitent la production de texte conditionnée à la fois sur des entrées structurées et non structurées. Nous présentons une nouvelle architecture de réseau neuronal qui génère une séquence de sortie conditionnée par un nombre arbitraire de fonctions d'entrée. De manière cruciale, notre approche permet de marginaliser à la fois le choix du contexte conditionnel et la granularité de la génération, par exemple les caractères ou les jetons, ce qui autorise une formation à l'échelle et efficace. À l'aide de ce cadre, nous abordons le problème de la génération de code de programmation à partir d'une spécification mixte en langage naturel et structuré. Nous créons deux nouveaux ensembles de données pour ce paradigme issus des jeux de cartes échangeables Magic the Gathering et Hearthstone. Sur ceux-ci, ainsi que sur un troisième corpus préexistant, nous démontrons que la marginalisation de plusieurs prédicteurs permet à notre modèle d'outrepasser des références solides.

Réseaux de Prédicteurs Latents pour la Génération de Code | Articles de recherche récents | HyperAI