Yoshua Bengio, einer der Pioniere der künstlichen Intelligenz und maßgeblicher Mitbegründer der modernen maschinellen Lernverfahren, warnt vor den wachsenden Risiken, die von KI-Systemen ausgehen. In einem Gespräch mit Nature bekennt er, dass er bereits heute von der missbräuchlichen Nutzung von KI beunruhigt ist – und dass diese nicht nur hypothetisch, sondern bereits real ist. Obwohl er in den vergangenen Jahrzehnten maßgeblich an der Entwicklung leistungsfähiger KI-Modelle beteiligt war, hat sich sein Blickwinkel in den letzten Jahren grundlegend verändert. Heute steht für ihn nicht mehr nur die technologische Leistung im Vordergrund, sondern vor allem die Sicherheit und ethische Verantwortung. Bengio betont, dass die aktuelle Entwicklung von KI-Systemen, insbesondere von großen Sprachmodellen, mit einer Reihe von Gefahren einhergeht: von der Verbreitung von Falschinformationen und manipulativen Deepfakes bis hin zu automatisierten Cyberangriffen und massenhafter Überwachung. Er warnt davor, dass die gegenwärtige KI-Entwicklung oft ohne ausreichende Sicherheitsmaßnahmen erfolgt – ein Ansatz, den er als „sicherheitsunbewusst“ kritisiert. Um diese Lücke zu schließen, setzt er auf eine radikale Neuausrichtung: die Entwicklung von KI-Systemen, die von Anfang an sicher, verständlich und kontrollierbar sind. Dazu gehört beispielsweise die Integration von Sicherheitsprinzipien in die Architektur selbst, die sogenannte „Safety by Design“-Strategie. Zusammen mit anderen Forschern arbeitet Bengio an der Entwicklung von KI-Modellen, die nicht nur leistungsfähig, sondern auch „vertrauenswürdig“ sind. Dazu zählen Methoden wie interpretierbare KI, die es ermöglichen, Entscheidungsprozesse nachvollziehbar zu machen, sowie Mechanismen zur Verhinderung von Fehlverhalten, etwa durch die Einbindung von ethischen Richtlinien in das Lernverhalten. Er plädiert zudem für eine stärkere Regulierung und internationale Zusammenarbeit, um Missbrauch zu verhindern und die Entwicklung von KI im öffentlichen Interesse zu lenken. Industrieexperten sehen in Bengios Position eine wichtige Warnung, die die Branche dringend ernst nehmen muss. „Seine Stimme ist entscheidend, weil er nicht nur ein Theoretiker, sondern ein Praktiker der KI ist“, sagt eine Expertin aus dem Forschungsbereich KI-Sicherheit. „Wenn selbst einer der Väter der KI sagt, dass die Risiken bereits real sind, dann ist es an der Zeit, die Sicherheit vor der Skalierung zu stellen.“ Bengio ist Mitbegründer des Montreal Institute for Learning Algorithms (MILA) und hat maßgeblich zur Entwicklung von Deep Learning beigetragen, was ihn zu einer zentralen Figur in der KI-Geschichte macht. Seine aktuelle Arbeit steht nicht im Widerspruch zu seiner Vergangenheit, sondern ist eine Weiterentwicklung seiner Überzeugung: Technologie sollte nicht nur intelligent sein, sondern auch verantwortungsvoll. Insgesamt unterstreicht Bengio, dass die Zukunft der KI nicht allein von technologischem Fortschritt abhängt, sondern von der Fähigkeit der Gesellschaft, diese Technologie verantwortungsvoll zu gestalten. Sein Appell lautet: Sicherheit muss von Anfang an in die KI-Entwicklung eingebaut werden – sonst riskieren wir, die Kontrolle zu verlieren.