Shippy : comment Ai2 développe des agents IA maritimes fiables
L'équipe Skylight d'Ai2 a développé Shippy, un agent d'intelligence artificielle conçu pour la surveillance maritime en temps réel. Conçu pour des décisions à haute pression où une erreur peut avoir des conséquences opérationnelles graves, le système privilégie la fiabilité à la simple génération de texte. Son architecture repose sur trois piliers : une identité définie par un prompt système qui établit des limites comportementales explicites, des compétences modulaires enregistrées en texte structuré qui guident l'exécution de tâches spécifiques, et une configuration externe permettant de modifier le modèle sous-jacent ou le framework d'exécution sans recompiler l'agent. Pour garantir la précision des données, Shippy n'interagit pas directement avec les bases de données complexes. Il utilise une interface en ligne de commande déterministe qui encapsule les requêtes API. Cette approche élimine les erreurs de syntaxe, de pagination ou de filtrage que le modèle pourrait commettre. Les résultats sont systématiquement enregistrés sur disque pour faciliter leur traitement ultérieur. Chaque compétence référence uniquement des commandes validées, permettant des tests indépendants et une maintenance simplifiée. La sécurité et l'isolement des données sont assurés par Mothership, une plateforme d'hébergement qui provisionne automatiquement une session isolée pour chaque utilisateur. Les échanges restent strictement privés, les fichiers temporaires sont effacés à la fin de la session, et l'accès réseau est strictement limité aux services nécessaires. Cette architecture garantit que les analystes ne consultent que leurs propres données, conforme aux exigences des agences gouvernementales et organisations partenaires. L'évaluation de Shippy dépasse les benchmarks traditionnels en testant l'agent complet face à des données réelles. Un pipeline personnalisé utilise des rubriques pondérées définies par des experts du domaine et un juge algorithmique pour scorer chaque réponse. Ce processus permet de détecter les dérives, comme les recommandations tactiques non sollicitées, les imprécisions géographiques ou les hallucinations de commandes, avant toute mise en production. Les versions ne franchissant pas les seuils de validation sont systématiquement rejetées. Shippy est actuellement déployé progressivement auprès d'utilisateurs pilotes pour identifier les limites du système et ajuster les garde-fous. Les apprentissages tirés de ce projet maritime alimentent directement le développement d'autres outils de conservation d'Ai2, tels que EarthRanger pour la protection de la faune et OlmoEarth pour l'observation terrestre. La plateforme d'hébergement, conçue dès l'origine pour être généraliste, devrait faciliter l'extension de ces agents intelligents à de nouveaux domaines opérationnels.
