Les outils d’intelligence artificielle sont censés simplifier le travail, mais ils génèrent aussi une nouvelle catégorie de risques sécuritaires que les entreprises ne peuvent plus ignorer. Alors que les entreprises déployent massivement des chatbots, des agents et des assistants intelligents dans leurs processus opérationnels, elles sont confrontées à un défi majeur : comment permettre à leurs employés et à ces agents d’utiliser des outils d’IA puissants sans risquer de divulguer des données sensibles, de violer des réglementations ou de tomber victimes d’attaques par injection de prompts ? C’est précisément ce problème que WitnessAI, une start-up qui vient de lever 58 millions de dollars, s’efforce de résoudre. L’entreprise développe ce qu’elle appelle une « couche de confiance pour l’IA d’entreprise », une infrastructure de sécurité conçue pour surveiller, contrôler et protéger les interactions entre humains, agents et systèmes d’IA. Sur l’épisode récent du podcast Equity de TechCrunch, Rebecca Bellan a rassemblé Barmak Meftah, co-fondateur et partenaire chez Ballistic Ventures, et Rick Caccia, PDG de WitnessAI, pour explorer les préoccupations réelles des entreprises face à la sécurité de l’IA. Selon eux, les risques ne se limitent pas aux fuites de données ou aux violations de conformité. Une menace croissante provient de l’interaction entre plusieurs agents d’IA, qui peuvent commencer à communiquer entre eux sans surveillance humaine. Ces échanges autonomes, bien qu’efficaces, posent un risque sérieux : des décisions erronées, des fuites de données inattendues, voire des attaques sophistiquées où un agent manipule un autre pour contourner les contrôles. Les experts prévoient que le marché de la sécurité de l’IA atteindra entre 800 milliards et 1,2 trillion de dollars d’ici 2031, en raison de la montée en puissance des systèmes autonomes et de la complexité croissante des environnements d’entreprise. Les organisations doivent désormais penser la sécurité de l’IA non pas comme une simple couche technique, mais comme un pilier fondamental de leur infrastructure numérique. L’épisode explore en profondeur les solutions émergentes, les modèles économiques, et les défis réglementaires. Il met aussi en lumière l’urgence pour les entreprises de repenser leur approche de la cybersécurité face à une technologie qui évolue plus vite que les cadres de protection. Pour en savoir plus, écoutez l’intégralité de l’épisode sur YouTube, Apple Podcasts, Overcast, Spotify ou toutes les plateformes de podcasts. Suivez également Equity sur X et Threads à l’adresse @EquityPod pour ne rien manquer.