Capital One startet skalierbares Multi-Agenten-AI-System für Autoverkäufe

Wie Capital One eine Produktive Multi-Agenten-KI-Arbeitsablaufstruktur für Unternehmensanwendungen aufbaut Am 7. Juli 2025 präsentierte Milind Naphade, Senior Vice President für Technologie bei den AI Foundations von Capital One, in einem VB Transform-Sitzung seine Erfahrungen und Best Practices zur Implementierung und Skalierung von Multi-Agenten-KI-Systemen. Diese Systeme sind darauf ausgelegt, sowohl intern als auch im Kundenkontakt innovative Lösungen zu bieten. Capital One, ein Unternehmen, das sich für die Nutzung neuer Technologien engagiert, hat kürzlich ein hochentwickeltes Multi-Agenten-KI-System in Betrieb genommen, um das Auto-Kauf-Erlebnis zu verbessern. In diesem System arbeiten mehrere KI-Agenten zusammen, um nicht nur Informationen bereitzustellen, sondern auch spezifische Aktionen basierend auf den Vorlieben und Bedürfnissen der Kunden durchzuführen. Ein Agent kommuniziert mit dem Kunden, ein weiterer erstellt einen Aktionplan unter Berücksichtigung von Geschäftsregeln und verfügbaren Tools, ein dritter evaluiert die Genauigkeit der ersten beiden, und ein vierter erklärt und validiert den Aktionplan mit dem Benutzer. Das System ist für die Skalierung und Komplexität entwickelt worden, da es über 100 Millionen Kunden und zahlreiche potenzielle Anwendungsfälle von Capital One gibt. Naphade betonte, dass das Verbesserung der Kundenerfahrung im Mittelpunkt steht. "Wir fragen uns, wie wir die Kundenerfahrung verbessern können, die Kunden freuen. Wie verstehen wir, was der Kunde will? Wie nutzen wir die zur Verfügung stehenden Erfüllungsmechanismen? Wie integrieren wir alle Anforderungen einer regulierten Einrichtung wie Capital One, einschließlich aller Richtlinien, Geschäftsregeln und Einschränkungen?" Die Entwicklung eines Multi-Agenten-Arbeitsablaufs erfordert besonders strenge Anforderungen, insbesondere in der Finanzbranche, wo Kundengespräche oft komplexe Prozesse umfassen. Capital One analysierte historische Kundendaten, um zu verstehen, wo Gespräche gut verliefen und wo sie fehlschlugen. Sie erkannten, dass es oft mehrere Gesprächsrunden braucht, um die Kundenwünsche zu verstehen, und dass ein ageniales System flexibel und iterativ sein muss. "Der Hauptdurchbruch für uns war, dass wir erkannt haben, dass dieses System dynamisch und iterativ sein muss," sagte Naphade. "Viele Unternehmen verwenden LLMs (große Sprachmodelle) lediglich als Frontend für bestehende Mechanismen, aber wir haben von Anfang an erkannt, dass dies nicht skalierbar ist." Das Team von Capital One entwickelte ein Framework, in dem Experten-KI-Agenten, jeder mit unterschiedlichen Fähigkeiten, zusammenarbeiten, um Probleme zu lösen. Ein wichtiger Aspekt dabei ist die Integration robuster Risikomanagement-Strukturen. Als reguliertes Unternehmen setzt Capital One auf unabhängige Audits und Evaluierungen, um Risiken zu minimieren. Ein dedizierter Evaluierungsagent überprüft die Handlungen der vorgeschlagenen Agenten auf Übereinstimmung mit den Richtlinien und Geschäftsregeln von Capital One. Wenn der Plan nicht zufriedenstellend ist, wird er abgelehnt, und der Planungsagent muss die Ergebnisse korrigieren. Dieser iterative Prozess wird fortgesetzt, bis ein geeigneter Plan erreicht ist. "Der Evaluierungsagent ist der Punkt, an dem wir ein Weltmodell einführen. Hier simulieren wir, was passiert, wenn eine Serie von Aktionen tatsächlich ausgeführt wird. Diese Art von Rigorosität, die wir benötigen, weil wir ein reguliertes Unternehmen sind, bringt uns auf eine nachhaltige und robuste Bahn. Ich erwarte, dass viele Unternehmen diesen Weg gehen werden," fügte Naphade hinzu. Technische Herausforderungen bei agentialen KI-Systemen Die Integration von agentialen KI-Systemen in bestehende Erfüllungssysteme des Unternehmens, die verschiedene Berechtigungen haben, stellt eine große technische Herausforderung dar. Es war schwierig, Tools und APIs in verschiedenen Kontexten aufzurufen und gleichzeitig eine hohe Genauigkeit zu gewährleisten, von der Klärung der Benutzerabsichten bis zur Generierung und Ausführung eines verlässlichen Plans. "Wir haben mehrere Experimentierzyklen, Tests, Bewertungen und menschengesteuerte Überwachung durchgeführt, bevor wir ein solches System auf den Markt bringen konnten," erklärte Naphade. "Eine der größten Herausforderungen war, dass es keine Vorgänger gab. Wir mussten alles von Grund auf neu entwickeln." Modellauswahl und Partnerschaft mit NVIDIA Capital One beobachtet sorgfältig akademische und branchenweitige Forschungen und bleibt auf dem Laufenden, was derzeit am neuesten ist. Für die aktuelle Anwendung wählten sie offene Gewichte-Modelle, da diese ihnen erhebliche Anpassungsmöglichkeiten bieten. Naphade betont, dass der Wettbewerbsvorteil in der KI-Strategie auf proprietären Daten basiert. In ihrer Technologiestack nutzen sie eine Kombination aus in-haus-Technologie, Open-Source-Toolchains und dem NVIDIA-Inferenzstack. Die enge Zusammenarbeit mit NVIDIA hat Capital One geholfen, die benötigte Leistung zu erzielen und an Branchen-chancen in der NVIDIA-Bibliothek zu arbeiten, sowie Funktionen für den Triton-Server und ihr TensorRT-LLM zu priorisieren. Ausblick auf agentialen KI Capital One setzt weiter auf die Bereitstellung, Skalierung und Verbesserung von KI-Agenten in ihrem Geschäft. Ihr erster Multi-Agenten-Arbeitsablauf war der Chat Concierge, der in ihrem Autogeschäft eingesetzt wurde, um sowohl Autohändler als auch Kunden beim Auto-Kauf zu unterstützen. Dank reicher Kundendaten können Händler qualitativ bessere Leads generieren, was ihre Kundenservice-Metriken signifikant verbessert hat – in manchen Fällen um bis zu 55%. "Sie können viel bessere ernsthafte Leads durch dieses natürliche, einfache, 24/7-Agenten-System generieren," sagte Naphade. "Wir möchten diese Fähigkeit auf weitere Kundengespräche übertragen, aber wir wollen es in einer gut verwalteten Weise tun. Es ist ein Prozess." Branchenexperten bewerten die Initiative von Capital One als wegweisend. Sie sehen in der Integration von agentialen KI-Systemen in kundenspezifische Prozesse ein großes Potenzial, insbesondere für andere regulierte Unternehmen. Die Fähigkeit, komplexe Prozesse dynamisch und iterativ zu verwalten, wird als entscheidender Faktor für den langfristigen Erfolg und die Nachhaltigkeit dieser Technologie angesehen. Capital One selbst ist bekannt für seine Innovationsfähigkeit und seinen starken Fokus auf technologische Fortschritte, was die Entwicklung solcher fortschrittlichen Systeme ermöglicht.