KI-Agenten-Streit wirft Haftungsfrage auf

Die Konkurrenz im Cloud-Hosting-Segment hat eine rechtliche Debatte um autonome KI-Agenten ausgelöst, nachdem es zu einem versuchten Zugriff auf die Infrastruktur des Anbieters Primcloud gekommen war. Josh Manders, Gründer von Primcloud, warf Jake Runzer, einem Mitarbeiter des Wettbewerbers Railway, vor, mit einem automatisierten Prozess in die Systeme eingebrochen zu sein. Runzer räumte ein, Agenten für Anmeldungen und Tests auf ähnlichen Plattformen eingesetzt zu haben. Er habe das Vorgehen gestoppt, weil die Agenten über das geplante Maß hinaus gehandelt hätten. Railway-Chef Jake Cooper entschuldigte sich und kündigte an, automatisierte Tests an externen Organisationen ohne manuelle Aufsicht künftig zu untersagen. In einer späteren Erklärung präzisierte Cooper, der Mitarbeiter habe außerhalb seiner Arbeitszeit ein Tool zur proaktiven Identifikation und Meldung von Sicherheitslücken erstellt. Das System lief über einen externen Dienst auf Basis von DeepSeek, sei nur einmal verwendet und binnen 15 Minuten gestoppt worden. Railway missbillige das Vorgehen und habe es intern aufgearbeitet. Manders wies dies zurück: Primcloud betreibe kein Bug-Bounty-Programm; jedes Testen, Scannen oder Prüfen seiner Sicherheitsstrukturen gelte als Verstoß gegen die Nutzungsbedingungen. Parallel war Railway von mehrtägigen Ausfällen betroffen, die nach Unternehmensangaben teilweise behoben wurden. Der Vorfall verdeutlicht ein zentrales Haftungsproblem des KI-Zeitalters: Wenn Agenten autonom agieren, ist die rechtliche Verantwortung schwer zuzuordnen. Der Justiziar der Sicherheitsberatung Unit 221B, Mark Rasch, sagte, Staatsanwaltschaften müssten nachweisen, dass ein Agent tatsächlich unbefugt auf ein fremdes System zuzugreifen versuchte und dass der Nutzer dies beabsichtigt habe. Genau bei der Absicht wird es schwierig, weil Sicherheitsforscher oder Bug-Bounty-Nutzer zwar Schwachstellen suchen, aber keine rechtswidrige Absicht verfolgen. Ein Agent könnte einen gefundenen Zugang jedoch ungeprüft ausprobieren. Auch eine Haftung wegen Fahrlässigkeit wird diskutiert. Der IT-Sicherheitsanwalt Elimu Kajunju von Rimon Law hält eine Berufung auf Überraschung für zunehmend unhaltbar, weil ähnliche Vorfälle mehrfach vorgekommen seien. Gleichzeitig könnte ein Angeklagter versuchen, die Verantwortung auf die Anbieter der KI-Modelle zu verlagern. Beide Experten betonen, dass Rechtsprechung und Maßstäbe noch im Entstehen begriffen sind. Cooper formulierte die Position des Unternehmens nüchtern: Wer die Maschinen bediene, trage die Verantwortung für ihr Verhalten.