Anthropic durchsucht Web, sendet kaum Traffic zurück
Nach den jüngsten Crawling-Daten von Cloudflare zeigt sich, dass Anthropic aktuell das deutlichste Ungleichgewicht beim Verhältnis von Web-Crawling zu Website-Referrals unter den großen KI-Unternehmen aufweist. Für die erste Julidekade kletterte das Verhältnis auf etwa 2.800 Crawls pro gesendetem Verweis. Zwar verbesserte sich dieser Wert im Vergleich zu den 8.800:1 im April und 24.700:1 im Mai, doch bleibt das Nutzungsverhältnis weiterhin extrem unausgewogen. OpenAI und Perplexity folgen mit deutlich niedrigeren Raten, gefolgt von Microsoft und Google. Ausnahmen im aktuellen Marktumfeld bilden nur wenige Dienste wie DuckDuckGo, das mit einem Verhältnis von drei zu eins annähernd ein faires Gleichgewicht zwischen Datennutzung und Traffic-Rückgabe bietet. Cloudflare misst damit indirekt die Tragfähigkeit des historischen wirtschaftlichen Pakt des Webs. Traditionell stellten Websites ihr Material für kostenlose Crawls zur Verfügung, um im Gegenzug Suchmaschinen-Traffic zu generieren. Durch die zunehmende Dominanz von KI-Antwort-Engines und Chatbots, die Nutzer direkt mit Ergebnissen bedienen, entfällt diese Traffic-Spende. Dies untergräbt die finanzielle Motivation für die Erstellung hochwertiger Webinhalte und führt zu einer systemischen Erosion der bestehenden Internetökonomie. Die Daten werfen zudem ethische Fragen auf. Während sich Anthropic selbst als vorbildlich in puncto KI-Verantwortung positioniert, wird die Praxis des massenhaften Scrapings ohne Gegenleistung kritisch gesehen. Das Unternehmen hat in der Vergangenheit zudem so genannte Distillation Attacks verurteilt, bei denen Konkurrenten seine KI-Modell-Ausgaben zur eigenen Verbesserung nutzen. In der Analyse ähnelt dies dem eigenen Vorgehen gegenüber Inhaltserstellern: Die Aneignung von Webmaterial zur Produktverbesserung, oft ohne explizite Zustimmung der Rechteinhaber, stellt einen Wandel der branchenüblichen Praktiken dar, der möglicherweise zu einer neuen Norm im Umgang mit KI-generierten Outputs führen wird. Anthropic hat Cloudflares Methodik zuvor bestritten und angeführt, dass neue Such- und Integrationsfunktionen die Referral-Zahlen tatsächlich erhöhen könnten. Eine unabhängige Verifizierung der Berechnungen steht jedoch aus. Die aktuellen Metriken unterstreichen dennoch den wachsenden Bedarf an regulativen und wirtschaftlichen Ansätzen, um die Nachhaltigkeit des offenen Webs im Zeitalter generativer KI zu sichern, bevor die Abhängigkeit von unentgeltlicher Datenerfassung die Infrastruktur des Internets weiter aushöhlt.
