API (Application Programming Interface) ist eine standardisierte Schnittstelle für Aufrufe zwischen Softwarekomponenten: Der Aufrufer übergibt Parameter in einem definierten Format, der Aufgerufene gibt das Ergebnis zurück, wobei beide Seiten die interne Implementierung der jeweils anderen nicht kennen müssen. Sie bildet die Grundlage der modernen Software-Arbeitsteilung und ist der zentrale Kanal, über den große Sprachmodelle die Außenwelt erschließen, und unterstützt Operationen wie Abfragen, Transaktionen, Kommunikation sowie Datenzugriffe.

Solche Spezifikationen machen die Fähigkeiten von Tools für Maschinen interpretierbar und ermöglichen so die Entdeckung und Kombination von Tools durch Modelle. Für Modelle verleiht die API ihnen Ausführungsfähigkeit. Im Jahr 2023 ermöglichten Patil et al. in der Arbeit Gorilla: Large Language Model Connected with Massive APIs durch die Feinabstimmung des LLaMA-Modells und die Integration eines Dokumenten-Retrievers die Generierung von Aufrufen basierend auf aktuellen Dokumenten. Auf der APIBench, die HuggingFace, TorchHub und TensorHub abdeckt, übertraf die Aufrufgenauigkeit GPT-4 und reduzierte Halluzinationen signifikant.

APIs erweitern die Rolle des Modells von der reinen Textgenerierung hin zu tatsächlichen Operationen auf externen Systemen und bilden die Grundlage für Tool-Aufrufe und die Implementierung von Agenten. Daraus resultierende technische Anforderungen umfassen die Minimierung von Berechtigungen, die Protokollierung und Prüfung von Aufrufverhalten sowie Mechanismen zur Abfangen potenziell gefährlicher Operationen.