L’API (Application Programming Interface) est une interface d’appel standardisée convenue entre les composants logiciels : l’appelant transmet des paramètres selon un format prédéfini, et l’appelé renvoie un résultat, sans que les deux parties aient besoin de connaître les implémentations internes l’une de l’autre. Elle constitue le fondement de la division du travail dans les logiciels modernes et représente le canal central permettant aux grands modèles de s’interfacer avec le monde extérieur, en soutenant des opérations telles que les requêtes, les transactions, les communications et les lectures/écritures de données.

De telles normes rendent les capacités des outils interprétables par la machine, ce qui permet la découverte et la combinaison d’outils par les modèles. Pour les modèles, les API leur confèrent des capacités d’exécution. En 2023, Patil et al. ont, dans leur article Gorilla: Large Language Model Connected with Massive APIs , affiné un modèle LLaMA et intégré un récupérateur de documentation, permettant au modèle de générer des appels en se basant sur la documentation la plus récente. Sur le benchmark APIBench couvrant HuggingFace, TorchHub et TensorHub, leur précision d’appel a dépassé celle de GPT-4, réduisant considérablement les hallucinations.

Les API étendent le rôle des modèles de la génération de texte à l’opération réelle sur des systèmes externes, constituant la base de la mise en œuvre de l’appel d’outils et des agents intelligents. Les contraintes d’ingénierie qui en découlent incluent la minimisation des privilèges, l’audit des comportements d’appel et les mécanismes d’interception des opérations potentiellement dangereuses.