Anthropic launcht Claude-Agent für Chrome – mit Sicherheitsvorkehrungen

Anthropic hat am Dienstag eine Forschungspreview seines neuen AI-Agents „Claude for Chrome“ vorgestellt, der als Erweiterung für den Google-Chrome-Browser läuft. Der Agent basiert auf den Claude-Modellen von Anthropic und ist zunächst für 1000 Abonnenten des Max-Plans – mit monatlichen Kosten zwischen 100 und 200 US-Dollar – verfügbar. Interessierte Nutzer können sich zudem auf eine Warteliste setzen lassen. Über die Erweiterung können Nutzer in einer Nebenfenster-Chat-Oberfläche mit Claude kommunizieren, wobei der Agent den Kontext der aktuellen Browser-Sitzung beibehält. Besonders herausgehoben wird die Fähigkeit, Claude zu erlauben, bestimmte Aktionen im Browser auszuführen – etwa Formulare auszufüllen, Artikel zu speichern oder Informationen zu vergleichen – was eine nahtlose Integration von KI in den täglichen Web-Workflow ermöglicht. Die Browser-Integration ist mittlerweile ein zentraler Wettbewerbsfeld für KI-Labore. Perplexity hat bereits seinen eigenen AI-Browser Comet vorgestellt, der ähnliche Funktionen bietet, während OpenAI an einem eigenen KI-geführten Browser arbeitet, der demnächst auf den Markt kommen könnte. Google hat zudem seine Gemini-Integrationen in Chrome weiter ausgebaut. Diese Entwicklung wird durch den anstehenden Antitrust-Prozess gegen Google verstärkt, bei dem ein Richter möglicherweise eine Spaltung des Unternehmens oder sogar den Verkauf von Chrome anordnen könnte. Perplexity hatte bereits eine unverlangte Übernahmeofferte in Höhe von 34,5 Milliarden US-Dollar abgegeben, und OpenAI-Chef Sam Altman signalisierte Interesse an einer Übernahme. Doch mit größerer Funktionalität steigen auch Sicherheitsrisiken. Die Sicherheitsteams von Brave entdeckten kürzlich eine Schwachstelle in Comets Agent, die es ermöglichte, indirekte Prompt-Injection-Angriffe durch versteckten Code auf Webseiten auszuführen. Anthropic räumt diese Gefahren ein und betont, dass die Forschungspreview auch als Testfeld für neue Sicherheitsmechanismen dienen soll. So wurden bereits mehrere Schutzmaßnahmen implementiert: Die Erfolgsrate von Prompt-Injection-Angriffen konnte von 23,6 % auf 11,2 % gesenkt werden. Nutzer können per Einstellungen bestimmte Websites blockieren, und standardmäßig sind Zugriffe auf Finanzdienstleister, pornografische Inhalte und Piraterie-Websites verboten. Zudem fordert Claude vor „hochriskanten Aktionen“ wie Kaufabschlüssen, Datenveröffentlichungen oder der Freigabe persönlicher Informationen ausdrückliche Zustimmung. Dies ist nicht Anthropics erster Versuch mit agentenbasierten KI-Systemen: Im Oktober 2024 hatte das Unternehmen einen PC-Steuerungs-Agenten vorgestellt, der jedoch aufgrund von Verzögerungen und Instabilität kritisiert wurde. Seitdem hat sich die Leistung von agentenbasierten KI-Modellen deutlich verbessert. Laut TechCrunch sind aktuelle Browser-Agenten wie Comet oder der ChatGPT-Agent bereits zuverlässig bei einfachen Aufgaben wie Recherche oder Datenextraktion. Komplexere Aufgaben bleiben jedoch weiterhin eine Herausforderung, insbesondere wenn mehrere Schritte, Kontextwechsel oder externe Systeme beteiligt sind. Branchenexperten sehen die Entwicklung als Wendepunkt in der KI-Nutzung: „Die Integration von KI-Agents in den Browser markiert den Übergang von reaktiven zu proaktiven KI-Systemen“, sagt ein Analyst von Gartner. „Aber Sicherheit und Kontrolle bleiben entscheidende Hürden.“ Anthropic positioniert sich damit als Anbieter, der nicht nur Leistung, sondern auch Verantwortung bei der Entwicklung agenter KI betont. Die Einführung von Claude for Chrome könnte die KI-Ökonomie neu definieren – wenn die Sicherheitsbedenken erfolgreich adressiert werden.