KI warnt vor Viren-Erzeugung
In einer seltenen gemeinsamen Stellungnahme haben die Führungskräfte führender KI-Unternehmen, darunter Sam Altman von OpenAI, Demis Hassabis von Google DeepMind und Dario Amodei von Anthropic, den US-Kongress aufgefordert, gesetzliche Vorschriften zur verpflichtenden Sicherheitsprüfung von Bestellungen synthetischer DNA und RNA zu erlassen. Das kürzlich verfasste Schreiben betont, dass der rasant fortschreitende KI-Fortschritt traditionelle Hürden bei der Erstellung biologischer Waffen erheblich senkt. Während früher spezifisches Fachwissen zur Genkombination und -zusammenfügung erforderlich war, ermöglicht KI heute die automatisierte Analyse wissenschaftlicher Datenbanken und die Generierung potenziell schädlicher Genomsequenzen. Experten weisen darauf hin, dass Algorithmen nicht nur Lieferanten ohne Sicherheitsprüfungen identifizieren, sondern auch Strategien zur Umgehung bestehender Screening-Software vorschlagen können. Historische Nachweise, wie die 2017 durchgeführte Labor-Synthese des ausgestorbenen Pockenvirus, demonstrieren die praktische Umsetzbarkeit dieser Risiken. Aktuelle Forschungsarbeiten belegen zudem, dass KI-generierte Proteinstrukturen bestehende Filter umgehen können, da diese primär auf bekannten Bedrohungsdatenbanken basieren. Die aktuelle US-Regulierung weist erhebliche Lücken auf. Zwar erließ die Vorgängerregierung eine Exekutivverfügung, die den Kauf synthetischer Gene an geprüfte Anbieter band, diese wurde jedoch aufgehoben. Ein Ersatz durch neue Bundesrichtlinien steht aus. Initiatoren der Initiative, darunter Technologie-Think-Tanks mit unterschiedlichen politischen Ausrichtungen, argumentieren, dass nur ein föderales Gesetz von Kongress eine verbindliche, branchenweite Prüfpflicht sicherstellen kann. Neben den drei Hauptunterzeichnern traten auch Mustafa Suleyman von Microsoft, Alexandr Wang von Meta sowie Vertreter der Biotech-Industrie der Forderung bei. Die politische Debatte ist gespalten. Befürworter halten eine obligatorische Risikoprüfung für eine vertretbare gesellschaftliche Grundnorm, insbesondere angesichts des potenziell katastrophalen Ausmaßes von KI-gestützten Bioanschlägen. Gegner verweisen auf subjektive Einstufungskriterien, steigende Compliance-Kosten und mögliche Nachteile für Innovationskraft. Unabhängig von der politischen Auseinandersetzung unterstreichen die Unterzeichner die Dringlichkeit proaktiver Governance. Unkontrolliert könnte die Technologie gezielt für die Entwicklung von Erregern genutzt werden. Das gemeinsame Schreiben markiert einen wichtigen Schritt, um technologische Entwicklung mit regulatorischer Klarheit zu verknüpfen, bevor sich das Risiko in eine globale Bedrohung verwandelt.
