Grammaires probabilistes contextuelles libres pour l’induction de grammaires

Nous étudions une formalisation du problème d'induction grammaticale qui modélise les phrases comme étant générées par une grammaire probabiliste contextuelle composite. Contrairement aux formulations traditionnelles qui apprennent une seule grammaire stochastique, les probabilités des règles de notre grammaire sont modulées par une variable latente continue spécifique à chaque phrase, ce qui induit des dépendances marginales au-delà des hypothèses contextuelles traditionnelles. L'inférence dans cette grammaire est réalisée par inférence variationnelle effondrée, où une distribution variationnelle postérieure amortie est placée sur la variable continue, et les arbres latents sont marginalisés grâce à la programmation dynamique. Des expériences menées en anglais et en chinois montrent l'efficacité de notre approche comparée aux méthodes récentes de pointe lorsqu'elle est évaluée sur le parsing non supervisé.