Owen Sakawa, Gründer von Elloe AI, möchte mit seiner Plattform das „Immunsystem für KI“ werden – eine Art „Antivirus“ für alle KI-Agenten. Vor dem TechCrunch Disrupt 2025, bei dem Elloe AI Finalist unter den Top 20 im Startup Battlefield-Wettbewerb ist, erklärte Sakawa, dass sein System eine zusätzliche Schicht über bestehende große Sprachmodelle (LLMs) legt, um kritische Risiken zu erkennen. Die KI-Entwicklung schreite rasant voran, ohne ausreichende Sicherheitsmechanismen, warnt er. Elloe AI fungiert als API oder SDK, das direkt an der Ausgabeschicht eines LLMs integriert wird – eine Art „Infrastruktur über dem LLM-Pipeline“. Es überprüft jede Antwort in Echtzeit auf Bias, Fehlinformationen, Halluzinationen, Fehler, Compliance-Verstöße und unsichere Inhalte. Das System basiert auf drei zentralen „Anker“-Schichten. Der erste Anker vergleicht die KI-Ausgabe mit verifizierbaren Quellen, um Faktenkorrektheit zu prüfen. Der zweite Anker überwacht, ob die Ausgabe gesetzliche Vorschriften verletzt – etwa HIPAA in den USA oder die GDPR in der EU – oder personenbezogene Daten (PII) preisgibt. Der dritte Anker erzeugt eine detaillierte Auditspur, die den Entscheidungsprozess des Modells nachvollziehbar macht: Woher stammt die Antwort, welche Quelle wurde genutzt, mit welcher Vertrauenswürdigkeit wurde entschieden? Diese Transparenz ermöglicht regulatorische Überprüfungen und interne Audits. Wichtig: Elloe AI ist kein eigenes LLM. Sakawa betont, dass die Idee, ein LLM zur Überprüfung eines anderen zu nutzen, wie ein „Pflaster auf einer Wunde“ sei – eine oberflächliche Lösung. Stattdessen nutzt das System maschinelles Lernen und andere KI-Techniken, kombiniert mit menschlicher Aufsicht. Elloe AI-Teams aktualisieren kontinuierlich ihre Kenntnisse zu neuen Datenschutz- und Nutzerrechtsvorschriften, um die Systeme aktuell und wirksam zu halten. Die Plattform richtet sich an Unternehmen, die KI in kritischen Anwendungen einsetzen – etwa im Gesundheitswesen, Finanzdienstleistungen oder Recht – wo Fehlentscheidungen hohe Risiken bergen. Mit der Einführung von Regulierungen wie der EU AI Act steigt die Nachfrage nach solchen Sicherheitslösungen. Elloe AI positioniert sich als unabhängiger, verifizierbarer Sicherheitsnetzwerk für KI-Systeme. Industrieexperten sehen in Elloe AI eine vielversprechende Antwort auf die wachsende KI-Sicherheitslücke. „Ohne solche Überwachungsschichten wird KI in der Praxis immer riskanter“, sagt eine KI-Sicherheitsexpertin von einem führenden Tech-Institut. Die Kombination aus automatisierter Prüfung, menschlicher Expertise und auditierbarer Transparenz macht das Modell besonders attraktiv für regulatorisch anspruchsvolle Branchen. Elloe AI ist ein junges, aber ambitioniertes Startup, das sich auf die Entwicklung von verantwortungsvoller KI konzentriert – eine Schlüsselrolle in der zunehmend regulierten KI-Welt.