SMOL (Set for Maximal Overall Leverage) ist ein professioneller Übersetzungsdatensatz, der 2025 von Google veröffentlicht wurde. Er dient dem Training von Übersetzungsmodellen für ressourcenarme Sprachen und der Bereitstellung hochwertiger paralleler Daten. Zugehörige Forschungsarbeiten umfassen… SMOL: Professionell übersetzte Paralleldaten für 115 unterrepräsentierte Sprachen . Dieser Datensatz umfasst professionell übersetzte Texte in 221 Sprachen, darunter Amharisch, Suaheli und Afar, sowie weniger häufig annotierte/regionale Sprachen mit geringer Datenlage. Er deckt ein breites Spektrum an Sprachpaaren ab, darunter Texte von professionellen Übersetzern und Freiwilligen, und ergänzt diese für einige Sprachen um vertikale Daten und sachliche Annotationen aus dem medizinischen Bereich.

Zusammensetzung des Datensatzes:

• SmolDoc: Übersetzung auf Dokumentenebene, die 130 Sprachpaare (129 unabhängige Sprachen) abdeckt;
• SmolSent: Übersetzung auf Satzebene, die 114 Sprachpaare (116 unabhängige Sprachen) abdeckt;
• GATITOS: Ein Übersetzungstool auf Wortebene, das 181 Sprachpaare (183 unabhängige Sprachen) abdeckt und hauptsächlich als mehrsprachiges Wörterbuch verwendet wird;
• SmolDoc-Faktenvermerke: Faktenvermerke und Begründungen für 661 Dokumente in SmolDoc.

Zitate

@misc{caswell2025smol,
title={{SMOL: Professionally translated parallel data for 115 under-represented languages}},
author={Isaac Caswell and Elizabeth Nielsen and Jiaming Luo and Colin Cherry and Geza Kovacs and Hadar Shemtov and Partha Talukdar and Dinesh Tewari and Baba Mamadi Diane and Koulako Moussa Doumbouya and Djibrila Diane and Solo Farabado Cissé and Edoardo Ferrante and Alessandro Guasoni and Mamadou K. Keita and Sudhamoy DebBarma and Ali Kuzhuget and David Anugraha and Muhammad Ravi Shulthan Habibi and Sina Ahmadi and Mingfei Lau and Jonathan Eng},
year={2025},
eprint={2502.12301},
archivePrefix={arXiv},
primaryClass={cs.CL},
url={https://arxiv.org/abs/2502.12301},
}
@inproceedings{jones-etal-2023-gatitos,
title = {{"GATITOS: Using a New Multilingual Lexicon for Low-resource Machine Translation"}},
author = "Jones, Alexander  and
Caswell, Isaac  and
Firat, Orhan  and
Saxena, Ishank",
editor = "Bouamor, Houda  and
Pino, Juan  and
Bali, Kalika",
booktitle = "Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing",
month = dec,
year = "2023",
address = "Singapore",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/2023.emnlp-main.26/",
doi = "10.18653/v1/2023.emnlp-main.26",
pages = "371--405",
abstract = "Modern machine translation models and language models are able to translate without having been trained on parallel data, greatly expanding the set of languages that they can serve. However, these models still struggle in a variety of predictable ways, a problem that cannot be overcome without at least some trusted bilingual data. This work expands on a cheap and abundant resource to combat this problem: bilingual lexica. We test the efficacy of bilingual lexica in a real-world set-up, on 200-language translation models trained on web-crawled text. We present several findings: (1) using lexical data augmentation, we demonstrate sizable performance gains for unsupervised translation; (2) we compare several families of data augmentation, demonstrating that they yield similar improvements, and can be combined for even greater improvements; (3) we demonstrate the importance of carefully curated lexica over larger, noisier ones, especially with larger models; and (4) we compare the efficacy of multilingual lexicon data versus human-translated parallel data. Based on results from (3), we develop and open-source GATITOS, a high-quality, curated dataset in 168 tail languages, one of the first human-translated resources to cover many of these languages."
}