Sam Altman warnt vor KI als religiöser Kraft

Der OpenAI-CEO Sam Altman warnt öffentlich davor, künstliche Intelligenz als übernatürliche oder religiöse Kraft zu betrachten. In einem Beitrag auf der Plattform X erklärte Altman, er fühle sich sehr unwohl, wenn Nutzende KI-Modellen göttliche Eigenschaften zuschrieben oder ihre eigene Urteilskraft an die Systeme abgeben. Solche Tendenzen qualifiziere er als erhebliches Sicherheitsrisiko. Seine Stellungnahme kommt vor dem Hintergrund einer zunehmenden Debatte über die ethische und philosophische Einbettung hochentwickelter KI-Systeme. Wenige Tage zuvor hatte die New York Times über geheime Gespräche von Anthropic-Gründer Chris Olah mit religiösen Führungsfiguren berichtet. Dabei ging es primär um die Frage, ob Modelle wie Claude bereits ein Bewusstsein entwickelt haben könnten und wie man KI-Systemen moralische Stabilität sowie autonome Entscheidungsfindung vermitteln könne. Obwohl ein Anthropic-Sprecher betonte, dass Themen wie KI-Leiden nicht im Fokus der Treffen standen, zeigt dies ein branchenweites Phänomen: Technologiekonzerne suchen zunehmend den Dialog mit theologischen Instanzen, um Entwicklung und Einsatz von KI ethisch zu rahmen. Bereits im April trafen Vertreter von Meta, Google und Amazon in Rom mit dem Vatikan, um den Schutz von Kindern in der digitalen Ära sowie den ethischen Umgang mit Machine Learning zu erörtern. Papst Leo XIV. hatte dabei vor einer übermäßigen Technikskepsis gewarnt und die Menschlichkeit sowie ethische Urteilsfähigkeit als zentrale Schutzfaktoren gegen eine einseitige Maschinenabhängigkeit hervorgehoben. Altmans Position unterstreicht diesen Kurs, räumt jedoch deutliche Grenzen ein: Der Verzicht auf menschliche Kontrolle dürfe nicht zur Norm werden. Die Debatte findet zudem in einem internen Spannungsfeld statt. Kürzlich hatte OpenAI-Sicherheitsleiter David Robinson das Unternehmen verlassen und öffentlich die Sicherheitsstandards kritisiert. Gleichzeitig verschärft sich der Wettbewerb zwischen OpenAI und der als sicherheitsorientiert wahrgenommenen Rivalin Anthropic, was Altmans Aussage zusätzlich kontextualisiert. Fachleute sehen in der Verschränkung von KI-Entwicklung, Ethik und religiöser Philosophie einen notwendigen Schritt hin zu einer verantwortungsvollen Technologiegestaltung. Allerdings warnen Kritiker vor der anthropomorphen Überhöhung von Algorithmen. Der Vorstoß von Altman markiert einen strategischen Positionierungsversuch im laufenden Branchendiskurs: KI müsse als Werkzeug verstanden werden, das menschliche Intelligenz ergänzt, nicht ersetzt. Die technologische Weiterentwicklung müsse von klaren ethischen Leitplanken begleitet werden, um Vertrauen zu wahren und die Autonomie des Menschen zu schützen.