HyperAIHyperAI

Command Palette

Search for a command to run...

KAIST sécurise les IA personnalisées par un nouveau cadre

La personnalisation des modèles d'intelligence artificielle à partir de données spécifiques, qu'elles soient individuelles ou professionnelles, ouvre de nouvelles perspectives mais présente un risque majeur : affaiblir les garde-fous de sécurité intégrés aux modèles. Pour résoudre ce paradoxe, des chercheurs de l'Université KAIST en Corée du Sud ont mis au point un cadre d'entraînement nommé Buffer-and-Reinforce. Cette technologie permet de conserver les performances adaptées sans compromettre, et même en renforçant, la sécurité du système. La plupart des solutions de réglage fin améliorent la capacité d'un modèle à exécuter de nouvelles tâches, mais rendent souvent l'intelligence artificielle plus vulnérable aux requêtes dangereuses. L'équipe, dirigée par le professeur Changick Kim et publiée sous la direction du doctorant Seokil Ham pour la conférence ICML 2026, s'est appuyée sur une constatation contre-intuitive : placer temporairement un modèle dans un état contournant ses restrictions de sécurité ne détériore pas durablement ses protocoles de protection. En tirant parti de ce phénomène, les scientifiques ont conçu une méthode en deux phases. Lors de la première étape, un module temporaire appelé BufferLoRA est appliqué au modèle pendant son apprentissage sur les données personnalisées. Il agit comme une barrière empêchant les informations nuisibles d'altérer directement le socle du modèle, tout en permettant son adaptation fonctionnelle. Une fois le réglage fin terminé, cette couche protectrice est retirée. La seconde phase consiste à activer un module de renforcement de la sécurité, ReinforceLoRA. En utilisant la décomposition QR, une technique mathématique permettant de séparer et d'isoler les différentes couches d'informations, les chercheurs ont pu restaurer et durcir les mécanismes de protection sans altérer les nouvelles compétences acquises. Les tests effectués démontrent l'efficacité de cette approche. Même lorsqu'un jeu de données d'entraînement était entièrement composé de questions nocives, le taux de réponses dangereuses est tombé de près de 18 pour cent à environ 8 pour cent, soit une amélioration par rapport au modèle original non personnalisé. Le framework maintient un haut niveau de précision personnalisée tout en nécessitant aucun supplément de données de sécurité pendant l'entraînement et en limitant la surcharge computationnelle. Le professeur Changick Kim souligne que cette avancée constitue une technologie fondamentale pour démocratiser le développement d'assistants numériques adaptés aux besoins spécifiques tout en garantissant leur fiabilité. En permettant aux entreprises et aux particuliers d'entraîner des intelligences artificielles sur leurs propres archives sans sacrifier la sûreté, Buffer-and-Reinforce pose les bases d'un écosystème de services numériques plus transparent et plus confiant.

Liens associés