HyperAIHyperAI

Command Palette

Search for a command to run...

NVIDIA sécurise la gouvernance des compétences des agents IA

NVIDIA a introduit un système de compétences d'agents IA vérifiées pour renforcer la gouvernance, la sécurité et la transparence dans le déploiement d'agents autonomes. Alors que les modèles ouverts et les protocoles comme le Model Context Protocol (MCP) facilitent l'extension des capacités des agents, les entreprises ont besoin d'une visibilité structurelle sur les instructions qu'elles exécutent. Les compétences vérifiées de NVIDIA répondent à ce besoin en garantissant l'origine, l'intégrité et la sécurité de chaque module logiciel. Ces compétences, portables et basées sur l'initiative open source skills.io, permettent aux développeurs d'intégrer des capacités de confiance dans divers outils de codage, tels que Claude Code, Codex et Cursor. Une compétence devient « vérifiée » lorsqu'elle est cataloguée, scannée, signée cryptographiquement et documentée via une fiche de compétence machine-lisible. Ce processus dépasse les simples barrières de sécurité d'exécution pour intégrer la confiance directement dans la couche de capacité de l'agent. Le parcours d'une compétence vers la certification commence dans le référentiel d'un produit, suivie d'un flux de publication incluant des revues humaines et des contrôles automatisés. Un outil nommé SkillSpector analyse ensuite les risques, allant des dépendances logicielles vulnérables aux attaques par injection d'instructions ou à l'exfiltration de données. Cette sécurité s'appuie sur des normes reconnues comme les lignes directrices de l'OWASP et le cadre MITRE ATLAS. Si une compétence est jugée risquée, elle est bloquée ou remédiée avant toute publication. La vérification cryptographique ajoute une couche essentielle de provenance. Chaque compétence signée contient une signature couvrant tous ses fichiers, permettant aux développeurs de confirmer que le code téléchargé est authentique et n'a pas été modifié depuis sa publication. Cette approche distingue les compétences vérifiées des actifs simplement listés dans un registre de confiance, assurant une intégrité tangible et non seulement une réputation. Au cœur de cette transparence se trouve la fiche de compétence, un fichier structuré qui résume l'identité de l'auteur, les dépendances, la licence, les risques connus et le statut de validation. Elle permet aux développeurs et aux architectes d'entreprise de prendre des décisions éclairées sans auditer manuellement chaque installation. Par exemple, avant d'utiliser une compétence de routage cuOpt, un utilisateur peut immédiatement vérifier son origine, son accès réseau et ses validations de performance via ce document. L'évaluation continue viendra enrichir ce système avec des métriques standardisées sur la qualité, la précision des déclencheurs et l'efficacité des tokens. En combinant le contrôle d'exécution via NVIDIA NeMo Guardrails et la gouvernance des capacités via les compétences vérifiées, NVIDIA offre une approche holistique pour des agents IA sûrs. Cette initiative invite la communauté à adopter la transparence et la confiance comme fondements de l'écosystème d'agents autonomes, avec des modèles de compétences et des générateurs de fiches désormais accessibles publiquement.

Liens associés

NVIDIA sécurise la gouvernance des compétences des agents IA | Articles tendance | HyperAI