Zufall schuf KI-Kreativität und KI-Halluzinationen

Ein neues Paper des MIT-Forschers Lindquist in der Fachzeitschrift Past and Present ordnet die Ursprünge heutiger KI-Halluzinationen in die Frühgeschichte neuronaler Netze ein. Demnach setzten frühe KI-Pioniere gezielt Zufall, Irrationalität und Abweichungen ein, um kreatives Denken von Maschinen nachzubilden. In den 1950er Jahren vertraten mehrere Forschungszentren diese These, darunter John Pierce von Bell Labs. Er sah in der Mathematik nicht nur ein Werkzeug zur Präzision, sondern auch als Möglichkeit, Ordnung aufzubrechen und überraschende Ideen zu erzeugen. Psychologen nutzten künstliche neuronale Netze, um Fehler und produktive Abweichungen im Gehirn zu modellieren und so das Innere des menschlichen Geists sichtbar zu machen. Parallel dazu gab es eine Gegenposition, die Kreativität lediglich als überlegene Form gewöhnlichen Denkens begriff. Diese Debatte prägte die Entwicklung der KI. Symbolische Systeme, die auf Regeln, Fakten und Propositionen basierten, wurden über Jahrzehnte dominant. Neuronale Netze verloren an Bedeutung, unter anderem nach dem Tod Frank Rosenblatts im Jahr 1971. In den 1980er Jahren lebte das Interesse im Rahmen der Kognitionswissenschaft wieder auf. Der Durchbruch kam erst mit der Verfügbarkeit großer Datenmengen und steigender Rechenleistung durch das Internet. Ab etwa 2012 übertrafen neuronale Netze viele klassische Ansätze des maschinellen Lernens und setzten sich als dominanter Ansatz durch. Laut Lindquist hat sich der Umgang mit Unerwartetem grundlegend gewandelt. Während frühe Laborsysteme gerade wegen ihrer absonderlichen oder falschen Antworten geschätzt wurden, stehen moderne KI-Dienste unter Druck, verlässlich, sicher und kontrollierbar zu bleiben. Legaler und wirtschaftlicher Druck hat dazu geführt, dass vermeintlich kreative oder abweichende Ausgaben stärker gefiltert werden. Gleichzeitig blieb der Kern solcher Systeme, Überraschendes erzeugen zu können, erhalten. Für die aktuelle KI-Entwicklung zieht Lindquist den Schluss, dass sich Kreativität und Vorhersehbarkeit nicht vollständig trennen lassen. Je stärker Entwickler Fehler und Halluzinationen zurückdrängen, desto mehr können sie zugleich originelle oder unerwartete Einsichten verlieren. Die Geschichte der KI zeige damit, dass die Unterdrückung des Irrtums auch die Produktivität des Denkens dämpfen kann.