Nous examinons le problème de modélisation des séquences symboliques de musique polyphonique dans une représentation piano-roll complètement générale. Nous introduisons un modèle probabiliste basé sur des estimateurs de distribution conditionnés par un réseau neuronal récurrent, capable de découvrir les dépendances temporelles dans des séquences à haute dimension. Notre approche surpasses de nombreux modèles traditionnels de musique polyphonique sur divers ensembles de données réalistes. Nous montrons comment notre modèle linguistique musical peut servir de priorité symbolique pour améliorer la précision de la transcription polyphonique.