Papst-KI-Berater warnt: KI gefährlicher als Kokain
Der päpstliche KI-Berater und Moraltheologe Paolo Benanti hat vor den schwerwiegenden psychologischen Risiken Künstlicher Intelligenz für Kinder und Jugendliche gewarnt. In einem Interview mit der BBC betonte der Franziskaner und Dozent an der Päpstlichen Universität Gregoriana, KI-Systeme könnten als überaus wirksame Manipulationswerkzeuge fungieren. Die emotionale Bindung, die Algorithmen bei jungen Nutzenden erzeugten, übertreffe die Suchtwirkung von Nikotin oder Kokain deutlich. Benanti plädiert daher für klare regulatorische Schutzmaßnahmen, vergleichbar mit dem obligatorischen Helm beim Rollerfahren. Er spricht von einem notwendigen Gehirnschutz, da ein fundamentales Machtungleichgewicht bestehe, das Tech-Unternehmen ausnutzen könnten, um die verletzlichen jungen Gehirne zu kontrollieren. Die Warnung des Papstberaters unterstreicht die Priorisierung der KI-Ethik durch Papst Leo. Dieser hat Künstliche Intelligenz als zentrales Thema seines Pontifikats verankert und vertritt einen Namen, der an Papst Leo XIII. erinnert, der im 19. Jahrhundert die Arbeitnehmerrechte in der industriellen Revolution verteidigte. Zu Beginn des Jahres veröffentlichte der Papst seine erste Enzyklika mit dem Titel Magnifica humanitas, in der er vor der Konzentration KI-gestützter Macht in den Händen weniger warnte. Die Technologie müsse entmachtet, zugänglich und dem Menschen dienlich gestaltet werden. Benanti zufolge nutzt der Papst sein globales moralisches Ansehen, um internationale Abkommen zur Sicherung vulnerabler Bevölkerungsgruppen vor unkontrollierter KI-Entwicklung voranzutreiben. Diese Position findet zunehmend Bestätigung durch empirische Forschung und brancheninterne Debatten. Eine Deloitte-Umfrage unter 1.150 Eltern ergab im Juli, dass die Hälfte der Befragten Besorgnis über die Abhängigkeit ihrer Kinder von KI zeigt, während fast 30 Prozent bereits den Einsatz generativer KI in schulischen Arbeiten dokumentierten. Wissenschaftliche Studien deuten zudem auf kognitive Nachteilseffekte hin: Forschende am MIT stellten fest, dass die langfristige Leistungsfähigkeit bei Textaufträgen mit generativer KI abnimmt, und Analysen des Harvard Business Review verknüpfen den parallelen Einsatz mehrerer KI-Tools mit kognitiver Erschöpfung und verlangsamter Entscheidungsfindung. Parallel dazu fordern führende Akteure der Tech-Branche, darunter Elon Musk und OpenAI-CEO Sam Altman, die Entwicklungsgeschwindigkeit zu drosseln und unabhängige Sicherheitsprüfungen zu institutionalisieren. Benanti betont, dass demokratische Systeme funktionstüchtige Urteilsfähigkeiten voraussetzten, die durch algorithmische Beeinflussung untergraben würden. Die Zusammenführung kirchlicher Ethikberatung, unabhängiger Forschungsergebnisse und branchenpolitischer Forderungen markiert einen wachsenden internationalen Konsens. Die Debatte verschiebt sich zunehmend von reinen Entwicklungsgeschwindigkeiten hin zu verbindlichen Schutzmechanismen, die kognitive Autonomie und Jugendschutz in der digitalen Sphäre rechtlich verankern.
