Apple alerte sur l'irréversibilité des secrets dans l'IA

Apple alerte sur un nouveau risque lié à l'intelligence artificielle dans une récente soumission judiciaire. L'entreprise craint que des secrets commerciaux, introduits dans un modèle d'IA par un ancien employé, ne génèrent des conséquences irréversibles. Selon les avocats d'Apple, si une information confidentielle est injectée dans un agent ou un modèle qui l'assimile, cette donnée peut devenir irrécupérable et continuer de se propager indéfiniment, compliquant considérablement les poursuites en cours contre OpenAI. Ce scénario illustre un défi inédit de l'ère numérique. Alors que les fuites de documents classiques peuvent être tracées, l'intégration de connaissances propriétaires dans des systèmes d'apprentissage automatique modifie fondamentalement la donne. Camilla Hrdy, professeure de droit spécialisée en IA, souligne que les employés disposent déjà d'une mémoire considérable, mais l'ajout de l'IA transforme cette capacité en une perte de contrôle potentielle. Le problème, bien que juridique, nécessite des solutions techniques adaptées. Les experts juridiques estiment que les recours traditionnels restent applicables. Une partie adverse peut être contrainte de cesser d'utiliser les informations volées, de les garder confidentielles et de verser des dommages-intérêts. Toutefois, sur le plan technique, retirer des connaissances déjà assimilées par un modèle reste complexe. Sijia Liu, professeur en informatique, explique que si les données sensibles sont simplement stockées dans un référentiel consultable par l'IA, leur suppression suffit généralement. En revanche, si elles ont servi à l'entraînement ou au réglage fin du modèle, le processus de désapprentissage machine devient nécessaire. Cette opération est coûteuse en ressources et difficile à évaluer précisément, car il faut définir exactement quelles capacités algorithmiques doivent être neutralisées. Plutôt que d'attendre un retrait complet, les chercheurs privilégient désormais des systèmes de détection précoce. Ces outils pourraient identifier les requêtes ou les transferts d'informations sensibles et bloquer automatiquement leur traitement, offrant une solution pragmatique en attendant des méthodes plus poussées. Apple n'a pas précisé le rôle exact de l'ancien employé dans l'utilisation de l'IA, ni confirmé si des modèles ont été entraînés. Néanmoins, cette affaire s'inscrit dans un contexte plus large, marqué par d'autres contentieux comme celui opposant xAI à OpenAI, où des accusations similaires concernant le recrutement de personnel et l'exploitation de code source ont été portées. Ces incidents soulignent l'urgence pour les entreprises de renforcer leurs protocoles de sécurité numérique et d'anticiper les vulnérabilités spécifiques aux assistants et modèles génératifs. À mesure que l'IA intègre davantage de données internes, la frontière entre innovation technologique et protection de la propriété intellectuelle devra faire l'objet d'une vigilance accrue.