Nous présentons BilBOWA (Bilingual Bag-of-Words without Alignments), un modèle simple et efficace sur le plan computationnel pour l'apprentissage de représentations distribuées bilingues des mots. Ce modèle peut s'adapter à de grands ensembles de données monolingues et n'a pas besoin de données parallèles alignées au niveau des mots pour son entraînement. Au lieu de cela, il s'entraîne directement sur des données monolingues et extrait un signal bilingue à partir d'un ensemble plus petit de données brutes alignées au niveau des phrases. Cela est réalisé grâce à une nouvelle fonction objectif croisée bilingue échantillonnée, qui régularise deux modèles linguistiques contrastifs avec du bruit pour un apprentissage efficace des caractéristiques croisées. Nous démontrons que les plongements bilingues appris à l'aide du modèle proposé surpassent les méthodes de pointe dans une tâche de classification de documents croisés ainsi que dans une tâche de traduction lexicale sur les données WMT11.