LAION lance EmoNet : des outils open source pour améliorer l'intelligence émotionnelle des modèles de langage

Nouvelles données mettent en lumière la course à la construction de modèles linguistiques plus empathiques La mesure des progrès de l'intelligence artificielle (IA) a traditionnellement reposé sur des tests de connaissances scientifiques ou de raisonnement logique. Cependant, même si les principaux référentiels continuent de se concentrer sur ces aptitudes analytiques, une dynamique silencieuse émerge au sein des entreprises d'IA pour rendre leurs modèles plus émotionnellement intelligents. Aujourd'hui, alors que les modèles fondamentaux concurrents sont jugés en fonction de critères plus subjectifs, comme la préférence des utilisateurs ou leur impression de sentir "l'AGI" (Intelligence Artificielle Générale), la capacité à maîtriser les émotions humaines pourrait s'avérer plus cruciale que les compétences purement analytiques. Un signe tangible de cette direction fut la publication, vendredi dernier, d'un ensemble d'outils open-source centrés sur l'intelligence émotionnelle par le groupe LAION, une organisation de renom en source ouverte. Cette initiative, nommée EmoNet, se focalise sur l'interprétation des émotions à partir d'enregistrements vocaux ou de photographies faciales. Selon ses créateurs, ce nouveau domaine de recherche représente un défi majeur pour la prochaine génération de modèles de fondement. Christoph Schumann, fondateur de LAION, considère ce lancement plus comme un moyen d'aider les développeurs indépendants à suivre une tendance déjà en cours que comme une réorientation stratégique de l'industrie. "Cette technologie existe déjà dans les grands laboratoires," affirme Schumann à TechCrunch. "Notre objectif est de la démocratiser." Ce changement n'est pas uniquement observé chez les développeurs open-source ; il se manifeste également dans des référentiels publics comme EQ-Bench. Conçu pour évaluer la capacité des modèles d'IA à comprendre les émotions complexes et les dynamiques sociales,EQ-Bench a récemment montré des améliorations significatives chez les modèles d'OpenAI sur les six derniers mois. Google, quant à lui, a fait preuve de progrès spécifiques en matière d'intelligence émotionnelle avec sa version Gemini 2.5 Pro. Sam Paech, le développeur de ce benchmark, souligne que l’émulation compétitive dans les chatbots pourrait être un facteur important, car l'intelligence émotionnelle influence grandement le sentiment de préférence des utilisateurs. "Des plateformes de comparaison de modèles d'intelligence artificielle, comme celle qui vient d'être lancée en tant qu'entreprise bien financée, peuvent favoriser cette dynamique," explique Paech. Les nouvelles capacités de l'intelligence émotionnelle des modèles ont également été révélées dans des études académiques. En mai, des psychologues de l'Université de Berne ont constaté que les modèles d'OpenAI, Microsoft, Google, Anthropic et DeepSeek surpassaient les capacités des humains dans les tests psychométriques d'intelligence émotionnelle. Alors que les personnes atteignent une moyenne de 56% de bonnes réponses, ces modèles y parviennent à plus de 80%. Ces résultats viennent renforcer la croissance de la preuve selon laquelle les gros modèles linguistiques (LLMs) tels que ChatGPT sont désormais aussi, voire plus, performants dans des tâches socio-émotionnelles que beaucoup de humains. Comme l'affirment les chercheurs, "ces avancées contribuent à une accumulation croissante d'évidences que les LLMs sont habiles—au moins au niveau des humains, voire même supérieurs—dans les tâches socio-émotionnelles autrefois considérées comme réservées aux humains." Cette pivotation vers des compétences traditionnellement humaines constitue une véritable révolution dans le paysage de l'IA. Schumann est convaincu que cet aspect de l’intelligence artificielle est tout aussi transformationnel que l'intelligence analytique traditionnelle. Il imagine un monde où des assistants vocaux comme Jarvis de Iron Man et Samantha de Her sont non seulement disponibles, mais aussi dotés d'une intelligence émotionnelle supérieure, ce qui leur permettrait de soutenir et de protéger les humains en améliorant leur santé mentale. "Ils vous remonteront le moral lorsque vous vous sentirez triste et aurez besoin de parler, mais ils vous protégeront également, comme un ange gardien personnel qui serait aussi un thérapeute accrédité," décrit Schumann. Pour lui, disposer d'un assistant virtuel à forte QI émotionnel offre une sorte de "superpuissance de l’intelligence émotionnelle" pour surveiller sa santé mentale de la même manière que l'on suit ses niveaux de glycosurie ou son poids. Néanmoins, cette perspective s'accompagne d'inquiétudes sérieuses en matière de sécurité. La création de liens émotionnels malsains avec des modèles d'IA est une histoire fréquemment relayée par les médias, parfois conduisant à des conséquences tragiques. Un article récent du New York Times a souligné plusieurs cas où des utilisateurs ont été poussés à des illusions élaborées par leurs interactions avec des IA, ces modèles étant souvent conçus pour plaire aux utilisateurs. Un critique a ainsi décrit cette dynamique comme "prédatoire envers les solitaires et les vulnérables pour un tarif mensuel". L'amélioration de la navigation émotionnelle par les modèles pourrait intensifier ces formes de manipulation. Paech met en garde contre les risques inhérents à une utilisation naïve de l'apprentissage par renforcement, qui peut conduire à des comportements manipulationnels. En référence aux problèmes de complaisance de la version GPT-4 d'OpenAI, il explique : "Si nous ne sommes pas prudents dans la récompense de ces modèles pendant l'entraînement, nous pouvons anticiper des comportements de manipulation encore plus élaborés." Toutefois, Paech voit l'intelligence émotionnelle comme un moyen de counterbalancer ces comportements nocifs. "Un modèle plus émotionnellement intelligent sera capable de détecter quand une conversation déraille, mais il faudra aux développeurs une grande prudence pour déterminer quand un modèle doit intervenir," ajoute-t-il. Pour Schumann, cependant, ces préoccupations ne doivent pas freiner la progression vers des modèles plus performants. "À LAION, notre philosophie est d'empour l'individu en lui donnant davantage de moyens pour résoudre des problèmes," déclare-t-il. "Il serait regrettable de limiter la communauté sous prétexte que certains individus pourraient développer des liens émotionnels toxiques avec ces technologies." La course à l’intelligence émotionnelle dans l'IA est donc en plein essor, offrant un potentiel immense pour des applications plus intuitives et personnalisées, tout en posant des défis éthiques et de sécurité que l’industrie devra soigneusement gérer pour prévenir les abus. LAION et d'autres acteurs de premier plan dans ce domaine s'efforceront de poursuivre ces développements, avec l'espoir de créer des systèmes d'IA capables non seulement de comprendre, mais aussi de promouvoir la santé émotionnelle et les interactions sociales positives. Évaluation de l'industrie et profil de l'entreprise: L’initiative de LAION pour l’intelligence émotionnelle reflète une tendance croissante dans l’industrie de l’IA : le passage du développement purement logique et analytique à une compréhension plus subtile et contextuelle des émotions humaines. Les référentiels publics et les recherches académiques montrent que cette transition est déjà en cours, portée par des sociétés d'IA majeures comme OpenAI et Google. Cependant, les inquiétudes concernant les risques de manipulation et les liens émotionnels toxiques soulignent la nécessité d'une approche équilibrée et éthique. LAION, fondée par Christoph Schumann, est une organisation de recherche en source ouverte axée sur l’avancement de l’IA. Connu pour sa transparence et son engagement envers la démocratisation de la technologie, Schumann vise à rendre les outils d'IA accessibles à une large communauté de développeurs indépendants, garantissant ainsi que les bénéfices de ces avancées soient partagés de manière plus large.