Owen Sakawa, fondateur d’Elloe AI, a pour ambition que sa plateforme devienne l’« immunité » des systèmes d’intelligence artificielle, un véritable « antivirus » pour tous les agents IA. Dans un entretien mené quelques jours avant la conférence TechCrunch Disrupt, où Elloe AI figure parmi les 20 finalistes du Startup Battlefield, Sakawa explique que son outil ajoute une couche de sécurité aux modèles de langage (LLM) des entreprises, afin de détecter les biais, les hallucinations, les erreurs, les problèmes de conformité, la désinformation ou encore les sorties potentiellement dangereuses. « L’IA évolue à une vitesse folle, sans filets de sécurité, sans mécanismes pour empêcher qu’elle ne dérive », affirme-t-il. Elloe AI se présente comme une API ou un SDK, un module installé directement au-dessus de la couche de sortie d’un modèle d’IA, une infrastructure complémentaire à la chaîne de traitement des LLM. « Il se positionne là pour vérifier chaque réponse, comme un vérificateur de faits en temps réel », précise Sakawa. Le système repose sur trois couches, qu’il appelle des « ancres ». La première vérifie la réponse du modèle contre des sources vérifiables, afin d’assurer sa précision factuelle. La deuxième s’assure que le contenu respecte les réglementations en vigueur — comme la loi américaine sur la confidentialité des données de santé (HIPAA) ou le règlement européen sur la protection des données (RGPD) — tout en détectant toute exposition de données personnelles sensibles (PII). La troisième couche, quant à elle, génère une traçabilité complète : elle permet de reconstituer le raisonnement derrière chaque décision, en indiquant la source de l’information, le score de confiance associé et l’ensemble des étapes de validation. Il est important de noter qu’Elloe AI n’est pas un modèle d’IA à part entière. « Faire fonctionner un LLM pour surveiller un autre LLM, c’est poser un pansement sur une plaie », estime Sakawa. Le système utilise toutefois des techniques d’intelligence artificielle, notamment l’apprentissage automatique, mais intègre aussi une présence humaine : des équipes spécialisées qui suivent en continu l’évolution des lois sur la protection des données et des utilisateurs. Si vous souhaitez en savoir plus sur Elloe AI, découvrir d’autres startups innovantes, assister à leurs présentations et écouter des conférenciers sur quatre scènes différentes, rendez-vous à Disrupt, du 27 au 29 octobre à San Francisco. Plus d’informations ici.