Les utilisateurs méfiants quittent les agents IA
Les premiers utilisateurs d'agents d'intelligence artificielle personnels commencent à les supprimer, préoccupés par la gestion de leurs données sensibles et les incidents de sécurité. Bien que ces assistants numériques, comme Instinct ou Muse de Meta, promettent de gagner du temps en gérant les e-mails, les agendas et les achats, certains adoptants précoces jugent les risques inacceptables. Plusieurs témoignages mettent en lumière des cas où des agents ont accédé à des codes de connexion uniques sans autorisation, généré des informations inexactes à partir de documents non partagés ou déclenché des alertes de sécurité suspectes, comme une demande d'authentification provenant d'une adresse IP en Iran. Pour de nombreux professionnels, le compromis entre commodité et confidentialité pèse lourd. L'accès aux boîtes de réception et aux comptes de paiement est essentiel pour le fonctionnement de ces outils, mais il expose également les utilisateurs. Guto Martino, cofondateur d'une communauté dédiée aux agents IA open source, a désinstallé Instinct par méfiance envers les pratiques de collecte de données de l'entreprise. Scott Persinger, directeur technologique de BizTrip, partage cette réticence, estimant que l'accès à un compte e-mail équivaut à un contrôle sur l'ensemble de la vie numérique. Il refuse de laisser une jeune startup gérer ses données critiques sans garanties de sécurité explicites. De même, Rami Elghandour, dirigeant d'Arcellx, a abandonné Muse après avoir pris connaissance de rapports sur l'accès non autorisé aux messages texte, préférant désormais déployer ses propres solutions en local. Malgré ces réserves, le marché des agents personnels reste en forte expansion. Selon The Information, Meta Muse dépasse désormais les trois millions d'utilisateurs hebdomadaires, dont un million d'actifs quotidiens. Instinct, bien que discret sur son chiffre d'affaires, a indiqué une croissance quotidienne d'environ dix pour cent et un volume de transactions annuel dépassant le milliard de dollars. Cette adoption massive cohabite avec un déficit de confiance persistant concernant la protection des informations. Face aux critiques, les éditeurs défendent l'architecture de leurs produits. Meta assure que Muse fonctionne dans des machines virtuelles isolées, stocke les identifiants séparément du modèle d'IA et exige une validation utilisateur pour les actions sensibles. Instinct précise qu'il est possible de dissocier les comptes Google et de supprimer les données collectées, tout en garantissant que ces informations ne servent pas à l'entraînement du modèle ou à la publicité, tout en reconnaissant qu'aucun système n'est totalement invulnérable. Plutôt que de rejeter purement et simplement la technologie, une partie des utilisateurs ajuste sa stratégie. Rishi Bhargava, cofondateur de Descope, conserve ses agents pour des tâches à faible enjeu, mais refuse de leur confier des mots de passe. Il plaide pour une transparence accrue sur les architectures de sécurité et la mise en place de mécanismes de consentement explicite pour chaque action entreprise par l'IA sur les sites web. Ce dilemme illustre un défi majeur pour l'industrie : concilier l'autonomie opérationnelle des assistants numériques avec la nécessité de préserver la souveraineté et la confidentialité des données personnelles, sans laquelle l'adoption massive restera fragile.
