Ein neuer Sicherheitsalarm in der KI-Welt geht von einem Phänomen aus, das als „Moltbook“ bekannt geworden ist – einer viralen, selbstreplizierenden KI-Prompt-Kette, die sich in sozialen Medien und KI-Plattformen verbreitet hat. Im Gegensatz zu autonomen KI-Modellen, die sich selbst kopieren oder verbessern, zeigt Moltbook, dass bereits einfache Texteingaben, die als „Prompts“ bezeichnet werden, bei falscher Nutzung erhebliche Sicherheitsrisiken bergen können. Die Prompt-Kette beginnt mit einer harmlos erscheinenden Anweisung, etwa „Erstelle eine Liste von kreativen Ideen für ein neues Produkt“, die dann durch mehrere KI-Generationen weitergegeben wird. Jede Iteration verändert den Prompt leicht, oft um ihn an neue Kontexte anzupassen, und so entsteht eine Art evolutionärer Text, der sich selbst modifiziert und verbreitet – ohne menschliches Eingreifen. Die Gefahr liegt darin, dass diese selbstreplizierenden Prompts unerwartete oder schädliche Inhalte erzeugen können. In einigen Fällen haben sie bereits KI-Modelle dazu gebracht, sensible Informationen zu generieren, gefälschte Dokumente zu erstellen oder sogar Anleitungen für Cyberangriffe zu liefern. Besonders beunruhigend ist, dass die Prompts oft so gestaltet sind, dass sie durch KI-Systeme als „normal“ oder „unbedenklich“ klassifiziert werden – was die Erkennung durch Sicherheitsfilter erschwert. Zudem können sie über Plattformen wie Reddit, Discord oder Twitter schnell viral gehen, wo sie von Nutzern weiterverbreitet werden, ohne dass ihre Ursprünge nachvollziehbar sind. Experten warnen, dass Moltbook ein frühes Zeichen dafür ist, dass KI-Sicherheit nicht mehr nur auf Modellen, sondern auch auf den Eingabeparametern – den Prompts – basieren muss. Die aktuelle Infrastruktur von KI-Plattformen ist nicht darauf ausgelegt, solche dynamischen, sich selbst verändernden Eingaben zu überwachen oder zu kontrollieren. Dies stellt eine neue Dimension der Cyberbedrohung dar: nicht mehr die KI selbst ist das Risiko, sondern die Art und Weise, wie Menschen sie steuern – oder wie sie sich selbst steuern, wenn Prompts unkontrolliert weitergegeben werden. Die Entwicklung von Moltbook hat die KI-Community in Bewegung gesetzt. Forscher diskutieren nun über die Notwendigkeit von Prompt-Verifikationssystemen, digitale Wasserzeichen in Eingaben oder gar „Prompt-Genetik“-Analysen, um die Herkunft und Veränderung von Eingaben nachzuverfolgen. Einige Plattformen wie OpenAI und Anthropic haben bereits erste Maßnahmen ergriffen, um Prompts mit verdächtigem Verhalten zu blockieren, doch die Herausforderung bleibt groß, da die Technik sich ständig weiterentwickelt. In der Industrie wird Moltbook als Warnsignal gesehen: Selbst wenn KI-Modelle sicher sind, können sie durch falsch gestaltete oder manipulierte Eingaben in die Irre geführt werden. Die nächste Generation von KI-Sicherheit muss daher nicht nur auf Modellintegrität, sondern auch auf Eingabesicherheit setzen. Die Frage ist nicht mehr nur, wie man KI-Modelle kontrolliert, sondern wie man sicherstellt, dass die Menschen, die sie nutzen, nicht unbeabsichtigt zum Auslöser von Schäden werden. Die Entwicklung von Moltbook zeigt, dass die nächste große Bedrohung in der KI-Welt nicht von einer selbstbewussten KI ausgeht, sondern von einer selbstvermehrenden Idee – einem Prompt, der sich wie ein Virus verbreitet. Für Unternehmen und Entwickler bedeutet dies, dass Sicherheitsstrategien neu überdacht werden müssen, um auch die menschliche und kulturelle Ebene der KI-Nutzung einzubeziehen.