Yoshua Bengio, considéré par beaucoup comme l’un des pères fondateurs de l’intelligence artificielle, a longtemps été au cœur de la recherche en apprentissage automatique. Mais ses convictions à propos de la technologie ont évolué ces dernières années. Dans une interview récente, il évoque les dangers croissants que représente l’IA, soulignant que « l’utilisation malveillante est déjà une réalité ». Il insiste sur la nécessité de repenser la conception même des systèmes d’intelligence artificielle, en intégrant la sécurité dès les premières étapes du développement. Bengio, qui a contribué à façonner les fondements de l’IA moderne, s’inquiète désormais davantage des conséquences potentielles de l’essor rapide des modèles d’intelligence artificielle. Il reconnaît que, bien que ces technologies puissent transformer positivement la société, elles peuvent aussi être détournées à des fins nuisibles — que ce soit pour générer de la désinformation à grande échelle, concevoir des armes autonomes ou compromettre la vie privée. « Cela me tient éveillé la nuit », confie-t-il, soulignant que les risques ne sont plus hypothétiques, mais tangibles. Face à ces menaces, Bengio milite pour une approche radicalement différente : concevoir des systèmes d’IA dont la sécurité et l’éthique soient intégrées dès la conception, plutôt que de les ajouter en post-traitement. Il travaille actuellement à développer des modèles capables de raisonner de manière plus transparente et contrôlable, avec des mécanismes internes qui permettent de comprendre leurs décisions et de limiter leurs biais ou leurs dérives. L’objectif ? Créer une IA qui soit non seulement puissante, mais aussi fiable, prévisible et alignée avec les valeurs humaines. Il appelle également à une collaboration internationale renforcée pour établir des normes et des régulations adaptées, tout en préservant l’innovation. Pour lui, la liberté académique et la recherche ouverte sont essentielles, mais elles doivent être accompagnées d’une responsabilité accrue. « Nous ne pouvons pas laisser l’IA évoluer sans cadre », affirme-t-il, mettant en garde contre une course aux armements technologiques sans considération éthique. En parallèle, Bengio s’engage dans des initiatives visant à promouvoir des données d’entraînement éthiques et représentatives, afin d’éviter que les modèles ne reproduisent ou amplifient les inégalités sociales. Il est convaincu que la sécurité de l’IA ne peut être assurée par des solutions techniques seules : elle exige aussi une réflexion collective, une gouvernance responsable et une vigilance continue. Dans un monde où les avancées en IA dépassent souvent les capacités de régulation, les avertissements de Bengio prennent tout leur sens. Il rappelle que la technologie n’est ni bonne ni mauvaise en soi — c’est l’usage qu’on en fait qui détermine son impact. Et aujourd’hui, plus que jamais, il est crucial de s’assurer que l’IA serve l’humanité, plutôt que de la mettre en péril.