Die Entwicklung künstlicher Intelligenz hat im letzten Jahrzehnt die Erwartungen kontinuierlich übertroffen. AGI, einst Science-Fiction, ist heute ein klares Ziel für viele große KI-Institutionen, die die nächsten zehn Jahre im Blick haben. Doch eine dringlichere Frage lautet: Wird die Entwicklung von KI stagnieren, wenn AGI tatsächlich Realität wird?

Ein gemeinsames Forschungsteam von Google DeepMind, der University of Waterloo, der Australian National University und dem University College London hat diese weiter entfernte Frage in einer kürzlich erschienenen Veröffentlichung erörtert. Anstatt voreilig zu verkünden, dass „die Singularität unmittelbar bevorsteht“ oder eine Vorhersage für ein bestimmtes Jahr zu treffen, analysierten die Forscher das Problem in Ruhe:Wird sich die künstliche Intelligenz nach Erreichen eines allgemeinen Intelligenzniveaus auf menschlichem Niveau entlang des Intelligenzkontinuums weiterentwickeln?Wenn ja, auf welchen Wegen könnte sich die Intelligenz von AGI (Künstlicher Allgemeiner Intelligenz) zu ASI (Künstlicher Superintelligenz) entwickeln? Und welche Engpässe könnten diesen Prozess verlangsamen, einschränken oder gar verändern?

Diese Arbeit bietet keine konkrete Zeitleiste für die Zukunft, sondern vielmehr eine Art Leitfaden zum Verständnis der weiteren Entwicklung der KI. Sie erinnert uns daran, dass:AGI ist vielleicht nicht das Ende, sondern eher der Beginn einer neuen Phase, nachdem die KI das durchschnittliche menschliche Niveau übertroffen hat.

Die entsprechenden Forschungsergebnisse mit dem Titel „From AGI to ASI“ wurden auf der Preprint-Plattform arXiv veröffentlicht.

Lesen Sie das Dokument:
https://hyper.ai/papers/2606.12683/pdf

Wie kann sich die Intelligenz nach AGI weiter verbessern?

Bevor wir über „nach AGI“ sprechen, müssen wir zunächst eine Frage klären: Inwieweit meinen wir, wenn wir sagen, dass KI „stärker“ geworden ist?

Im alltäglichen Sprachgebrauch wird AGI oft einfach als „KI, die so intelligent ist wie ein Mensch“ verstanden. Diese Aussage ist jedoch unpräzise. Wie wen? Wie einen Durchschnittsmenschen oder wie einen Experten? Erreicht sie menschenähnliche Leistungen bei kognitiven Aufgaben wie Prüfungen, Schreiben und Programmieren, oder kann sie langfristig in der realen Welt handeln, lernen, planen und sich selbst korrigieren? Diese Arbeit verwendet eine relativ grobe, aber leichter zu diskutierende Definition:AGI steht für Künstliche Allgemeine Intelligenz, die in etwa dem Niveau eines durchschnittlichen Menschen entspricht.Es handelt sich nicht um ein System, das den Menschen in einer eng begrenzten Aufgabe übertrifft, sondern vielmehr um ein System, das über allgemeine Fähigkeiten verfügt, die denen gewöhnlicher Menschen in einem ausreichend breiten Spektrum kognitiver Aufgaben nahekommen.

Diese Definition, so konservativ sie auch erscheinen mag, ist von entscheidender Bedeutung. Die heutige KI hat den Menschen bereits in vielen Einzelaufgabenbereichen übertroffen, etwa im Schach, bei der Vorhersage von Proteinstrukturen, der Codegenerierung und der Bilderkennung. Den Menschen in einem einzelnen Bereich zu übertreffen, ist jedoch nicht dasselbe wie AGI (Künstliche Allgemeine Intelligenz). AGI betont Vielseitigkeit – die Fähigkeit, auf verschiedene Aufgaben und Situationen zu übertragen, diese zu verstehen und sich an sie anzupassen. AGI ist nicht das Ende des Intelligenzkontinuums. Die weitere Entwicklung entlang dieses Spektrums führt zu ASI (Künstlicher Allgemeiner Superintelligenz), die Gegenstand dieser Diskussion ist.

Die Studie setzt die Messlatte für ASI sehr hoch – das bedeutet nicht, dass eine bestimmte KI in einem einzelnen Bereich zum „Weltmeister“ wird.Es bezeichnet vielmehr ein System, das über Fähigkeiten verfügt, die die des Menschen in nahezu allen Aufgaben und Bereichen menschlichen Interesses übertreffen.Wichtiger noch: Es geht nicht nur darum, einen einzelnen Experten zu übertreffen, sondern vielmehr darum, eine große Organisation von Menschen, die aus einer großen Anzahl von Experten besteht, die über einen langen Zeitraum zusammengearbeitet haben, zuverlässig zu übertreffen.

mit anderen Worten,AGI kann als „das allgemeine kognitive Niveau eines normalen Menschen“ verstanden werden, während ASI eher den „allgemeinen Fähigkeiten einer hochqualifizierten Expertenorganisation“ entspricht.Die erste Frage beantwortet die Frage, ob KI das durchschnittliche Niveau des Menschen erreichen kann, während die zweite Frage lautet: Wird digitale Intelligenz, sobald sie repliziert, beschleunigt, in Zusammenarbeit genutzt und kontinuierlich erweitert werden kann, Fähigkeiten entwickeln, die die der menschlichen Gesamtheit weit übertreffen?

Zusätzlich zu AGI und ASI diskutiert das Papier auch eine theoretische Grenze: UAI (Universal AI) oder AIXI. AIXI ist ein mathematisch idealisierter allgemeiner intelligenter Agent, der die theoretische Obergrenze der maschinellen Intelligenz darstellt. Er ist jedoch nicht berechenbar.Es handelt sich nicht um ein Modell, das trainiert und heute eingesetzt werden kann; es ist eher wie ein theoretischer Leuchtturm: Es zeigt uns, wie maschinelle Intelligenz in Extremfällen aussehen könnte, und Systeme der realen Welt können sich ihr nur von unten annähern.

Somit legt die Arbeit ein klares Koordinatensystem fest:AGI ist allgemeine Intelligenz auf menschlichem Niveau, ASI ist allgemeine Superintelligenz, die die von menschlichen Experten weit übertrifft, und AIXI ist die theoretische Grenze der Intelligenz.Diese Definition ist kein Gedankenspiel, sondern die Grundlage für alle nachfolgenden Diskussionen. Denn wenn AGI lediglich die Schwelle des durchschnittlichen menschlichen Niveaus überschreitet, lautet die eigentliche Frage nicht mehr „ob AGI entstehen wird“, sondern vielmehr: Wird die digitale Intelligenz nach Überschreiten dieser Schwelle weiter steigen?

Es gibt möglicherweise mehr als einen Weg von AGI zu ASI.

In dem Artikel wird vorgeschlagen,Es gibt mindestens vier mögliche technische Wege von AGI zu ASI.Sie schließen sich nicht gegenseitig aus und treten auch nicht notwendigerweise nacheinander auf; vielmehr werden sie sich wahrscheinlich parallel entwickeln und sich in Zukunft überschneiden.

Der erste Weg besteht darin, die Rechenkapazitäten, Modelle und Daten weiter auszubauen.Die Fortschritte bei KI-Fähigkeiten im letzten Jahrzehnt beruhten größtenteils auf Skalierung: mehr Rechenleistung, größere Modelle, mehr Daten und effizientere Algorithmen. Die Frage ist nun: Wird sich dieser Trend fortsetzen, sobald KI die Schwelle zur AGI überschreitet? Führt die Vergrößerung von Modellen und die Steigerung der Rechenleistung zwangsläufig zu einem höheren Intelligenzniveau? Die Antwort ist ungewiss.

Die Studie weist jedoch auch darauf hin, dass sich die Gesamtleistungsfähigkeit von KI-Systemen weiter verbessern kann, selbst wenn sich das Wachstum der individuellen Modellfähigkeiten verlangsamt. Dies liegt daran, dass digitale Intelligenz Vorteile gegenüber biologischer Intelligenz besitzt: Sie lässt sich replizieren, beschleunigen, pausieren und fortsetzen, und Erfahrungen können mit extrem hoher Bandbreite ausgetauscht werden. Wenn ein AGI-System in Millionen oder Hunderten von Millionen Instanzen repliziert werden kann, die parallel arbeiten, miteinander kollaborieren und schnell ausgeführt werden,Selbst wenn ein einzelner Fall nur auf der „menschlichen Ebene“ stattfindet, kann das gesamte System dennoch Fähigkeiten aufweisen, die weit über die von menschlichen Organisationen hinausgehen.

Der zweite Weg ist ein Paradigmenwechsel bei den Algorithmen.Das gängige KI-Paradigma besteht heute im Allgemeinen darin, umfangreiche Basismodelle mit riesigen Datenmengen zu trainieren und ihre Fähigkeiten anschließend durch Feinabstimmung mittels Anweisungen, bestärkendem Lernen, Werkzeugnutzung, verbesserter Informationssuche und Testzeitinferenz zu optimieren. Ob dieser Ansatz jedoch ausreicht, um ASI zu erreichen, bleibt abzuwarten.

Die bestehenden Modelle weisen noch erhebliche Mängel auf. Beispielsweise sind sie in Bezug auf kontinuierliches Lernen, Langzeitgedächtnis, robuste Planung, Interaktionen in realen Umgebungen, kausales Verständnis und die Ausführung offener Aufgaben nicht zuverlässig genug. Der Übergang von AGI zu ASI wird in Zukunft möglicherweise nicht so einfach sein wie die bloße Skalierung bestehender Modelle.Stattdessen bedarf es einer neuen Architektur, neuer Trainingsziele, neuer Gedächtnismechanismen und eines neuen Weltmodells.Sogar neue Hardwareformen.

Der dritte Weg ist die rekursive Selbstverbesserung.Dies ist der Weg, der am ehesten mit der „Intelligenzexplosion“ in Verbindung gebracht wird. Er beschreibt den Beginn der Beteiligung von KI an Forschung und Entwicklung im Bereich KI, wodurch die Entwicklung der nächsten KI-Generation beschleunigt wird. Diese Selbstverbesserung beschränkt sich nicht nur auf die Modifizierung des eigenen Codes durch KI. Sie kann auch Folgendes umfassen: KI hilft bei der Entwicklung besserer Modellarchitekturen, optimiert Trainingsprozesse, generiert qualitativ hochwertigere Daten, entwirft Chips und Computersysteme und führt automatisch Experimente durch und analysiert die Ergebnisse. Sobald KI die Effizienz von Forschung und Entwicklung im Bereich KI deutlich steigern kann, kann ein positiver Rückkopplungseffekt entstehen.Fortschrittlichere KI trägt zur Entwicklung noch fortschrittlicherer KI bei, was wiederum die Effizienz von Forschung und Entwicklung weiter steigert.

Die Studie behauptet jedoch nicht einfach, dass eine solche Entwicklung zwangsläufig eintreten wird. Rekursive Selbstverbesserung stößt auch auf reale Hindernisse. Größere Modelle erfordern aufwändigere Experimente, fortschrittlichere Chips sind auf reale Lieferketten angewiesen, und komplexere wissenschaftliche Probleme müssen in der physischen Welt verifiziert werden. Selbst wenn KI-Forscher in der digitalen Welt mit hoher Geschwindigkeit arbeiten können, können sie durch experimentelle Zyklen, Produktionszyklen und Ressourcenengpässe dennoch ausgebremst werden.

Der vierte Weg besteht darin, dass ASI aus groß angelegten Multiagentensystemen hervorgeht.Superintelligenz entsteht nicht zwangsläufig aus einem einzelnen Modell; sie kann auch aus einem Kollektiv zahlreicher künstlicher künstlicher Intelligenzen (AGIs) hervorgehen. Die Fähigkeiten der menschlichen Zivilisation basieren nicht auf dem individuellen Gehirn, sondern auf Sprache, Institutionen, Organisationen, Märkten, wissenschaftlichen Gemeinschaften und Spezialisierung. Wenn KI-Agenten ähnliche oder sogar effizientere kollaborative Strukturen bilden können, könnte künstliche Intelligenz (ASI) ein emergentes Ergebnis von „organisatorischer Intelligenz“ sein.

In diesem Kontext könnte zukünftige Superintelligenz einem vollautomatisierten Megakonzern, einer digitalen Forschungsgemeinschaft oder einem selbstorganisierenden System aus unzähligen spezialisierten intelligenten Agenten ähneln. Sie können Arbeit aufteilen, zusammenarbeiten, überprüfen, replizieren und sich neu organisieren und so Erfahrungen in einem Tempo sammeln, das menschliche Organisationen weit übertrifft. DaherDie Entwicklung von AGI zu ASI ist nicht unbedingt eine plötzliche qualitative Veränderung in einem bestimmten Modell, noch gibt es unbedingt nur einen technischen Weg.Es dürfte sich eher um das Ergebnis einer Kombination aus Skalierung, Paradigmenwechsel, Selbstverbesserung und Multi-Agenten-Kollaboration handeln.

Sechs Engpässe: Welche Reibungskräfte bestimmen die Geschwindigkeit?

Wenn die vier Wege beschreiben, wie die KI weiter voranschreiten kann, dann diskutieren die sechs Engpässe, wo diese Entwicklung auf Widerstand stoßen wird und welche Faktoren sie verlangsamen könnten.

Zunächst die DatenHeutige groß angelegte Modelle sind stark auf das Training mit hochwertigen menschlichen Daten angewiesen, doch Texte, Code, Bilder, Videos und Expertenwissen sind nicht unerschöpflich. Sollten Modelle in Zukunft weiter wachsen, könnte der Datenbedarf die natürliche Datenproduktion des Menschen übersteigen. Synthetische Daten, Selbstspiel und Simulationsumgebungen könnten neue Datenquellen darstellen, aber ob sie dauerhaft ausreichend hochwertige, aktuelle und vielfältige Daten liefern können, bleibt fraglich.

Zweitens gibt es Ressourcen.Die Skalierung von Rechenkapazitäten ist kein abstrakter Prozess. Sie erfordert Chips, Rechenzentren, Energie, Kühlsysteme, Lieferketten, Kapitalinvestitionen und Ingenieure. Wenn das Erreichen von ASI von der kontinuierlichen Erweiterung des Trainings- und Inferenzrechnens abhängt, werden Energie, Land, fortschrittliche Fertigung, Netzwerkinfrastruktur und Kapitalinvestitionen zu realen Engpässen. Das Wachstum der KI-Fähigkeiten hängt letztlich nicht nur von Algorithmen ab, sondern auch davon, ob die reale Welt immer größere Computersysteme unterstützen kann.

Drittens: Ist das bestehende Paradigma der neuronalen Netze ausreichend?Der Ansatz groß angelegter Modelle hat große Erfolge erzielt, doch Erfolg bedeutet nicht, dass es keine Grenzen gibt. Aktuellen Systemen fehlen möglicherweise noch einige Kernfähigkeiten, die für den Übergang zu höherer allgemeiner Intelligenz erforderlich sind, wie etwa langfristiges autonomes Handeln, kontinuierliches Lernen, robustes kausales Denken, die Entdeckung abstrakter Konzepte und zuverlässige Planung in komplexen Umgebungen. Wenn diese Probleme nicht durch einfache Skalierung gelöst werden können, ist der Übergang von AGI zu ASI nicht einfach eine Frage des „Größerwerdens“, sondern erfordert weitere Durchbrüche in der Fähigkeitsstruktur.

Viertens wird die Forschung selbst zunehmend schwieriger.In jedem Technologiefeld gibt es in der Anfangsphase oft viele leicht zu erreichende Verbesserungen, die bereits zu bedeutenden Fortschritten führen können. Mit zunehmender Reife des Feldes erfordern jedoch alle weiteren Schritte höhere Kosten, umfangreichere Experimente und komplexere Forschungssysteme. Künstliche Intelligenz bildet hier möglicherweise keine Ausnahme. Die eigentliche Unsicherheit besteht darin, ob KI die Forschungseffizienz schneller steigern kann, als die Forschung selbst schwieriger wird.

Fünftens gibt es die Barriere der Abstraktion.Heutige KI wird primär mit riesigen Mengen menschlicher Daten trainiert und lernt aus Konzepten, Sprache, Wissen und Denkmustern, die bereits von Menschen ausgedrückt werden. Doch wenn wir uns in Richtung ASI (Künstliche Intelligenz der Dinge) bewegen, die die Entdeckung neuer Konzepte, wissenschaftlicher Theorien und abstrakter Strukturen erfordert, die dem Menschen noch unbekannt sind, kann KI dies wirklich erreichen? Wenn KI lediglich bestehendes Wissen neu organisiert, wird es ihr schwerfallen, die menschliche Wissenschaftsgemeinschaft zu übertreffen. Sie muss in der Lage sein, aus Rohdaten und Interaktionen in der realen Welt neue Strukturen, neue Variablen und neue Kausalzusammenhänge zu entdecken. Realistischerweise müssen viele neue Abstraktionen durch physikalische Experimente verifiziert werden. Selbst wenn KI schnell Hypothesen formulieren kann, ist sie möglicherweise durch experimentelle Zyklen, Produktionsbedingungen und die Geschwindigkeit des Feedbacks aus der realen Welt eingeschränkt.

Schließlich gibt es noch die bewusste Verlangsamung der menschlichen Gesellschaft. Künstliche Intelligenz (KI) entwickelt sich nicht isoliert. Mit zunehmenden Fähigkeiten rücken Probleme in den Bereichen Sicherheit, Ethik, Beschäftigung, Militär, Finanzen, Bildung, Informationsverbreitung und gesellschaftliche Steuerung immer stärker in den Vordergrund. Sollten hochentwickelte KI-Systeme schwerwiegende Unfälle verursachen oder die Gesellschaft die Risiken als höher als den Nutzen einschätzen, könnten Regulierungen, internationale Abkommen, Selbstregulierung der Industrie und die öffentliche Meinung proaktiv eingreifen und die Entwicklung bremsen. Dieser Verlangsamung wird jedoch auch der wirtschaftliche und geopolitische Wettbewerb entgegenwirken, was sie zu einer komplexen Größe macht.

Diese sechs Engpässe bestimmen gemeinsam die Geschwindigkeit der Evolution von AGI zu ASI und erinnern uns zugleich daran, dass das Problem der Superintelligenz nicht nur ein technisches Problem ist, sondern auch ein Problem der Ressourcen, der Organisation, der Wissenschaft und der Regierungsführung.

Es handelt sich nicht um ein einzelnes Ereignis, sondern um eine Reihe von Veränderungen.

Viele Diskussionen über Superintelligenz neigen dazu, die Zukunft als ein einziges, entscheidendes Ereignis darzustellen: das Auftauchen einer künstlichen allgemeinen Intelligenz (AGI) eines Tages, die die Welt schlagartig umgestaltet. Diese Arbeit präsentiert jedoch ein komplexeres und realistischeres Bild. Es gibt möglicherweise keine klare, dramatische Trennlinie zwischen AGI und ASI.Wahrscheinlicher ist jedoch, dass sich eine Reihe von KI-gesteuerten wissenschaftlichen, technologischen und sozialen Veränderungen anhäufen werden, die die Welt im Zuge ihrer Weiterentwicklung letztendlich in einen völlig anderen Zustand führen.

Als erstes müsste möglicherweise das Tempo wissenschaftlicher Entdeckungen geändert werden.Wenn KI Literatur lesen, Hypothesen formulieren, Experimente entwerfen, Simulationen durchführen, Daten analysieren und Forschungswege kontinuierlich optimieren kann,Die wissenschaftliche Forschung wird sich von „menschlichen Forschern, die KI-Werkzeuge nutzen“ hin zu „Menschen und KI bilden gemeinsam ein Forschungssystem“ verlagern.Zukünftige Durchbrüche stammen möglicherweise nicht unbedingt von einem einzelnen Genie, sondern können auch aus einem schnelllebigen, sich ständig weiterentwickelnden digitalen Forschungsnetzwerk resultieren.

Zweitens wurde die Organisationsstruktur geändert.Heutige Unternehmen, Labore und Regierungsbehörden arbeiten nach wie vor nach einem nutzerzentrierten Modell. Zeit, Aufmerksamkeitsspanne, Gedächtnis, Kommunikationsbandbreite und Lerngeschwindigkeit des Menschen bestimmen die Grenzen der organisatorischen Fähigkeiten. KI-Systeme hingegen können parallel arbeiten, sich nahtlos replizieren, Erfahrungen in kürzester Zeit austauschen und bei Bedarf schnell generiert und neu kombiniert werden.Organisationen der Zukunft werden möglicherweise nicht mehr nur aus Menschen bestehen, sondern aus Menschen, KI-Agenten, automatisierten Prozessen, Wissensdatenbanken, Werkzeugsystemen und der externen Umgebung.

Was sich ändern könnte, ist das Verständnis der Menschheit von ihrer eigenen Rolle.Wenn AGI lediglich ein Werkzeug ist, bleiben Menschen die primären Entscheidungsträger und Schöpfer. Können KI-Systeme jedoch kontinuierlich lernen, zusammenarbeiten und sich selbst verbessern und Expertenorganisationen in immer mehr Bereichen übertreffen, muss die menschliche Gesellschaft Macht, Verantwortung, Arbeit, Bildung, Kreativität und Regierungsstrukturen neu überdenken. Dann lautet die Frage nicht mehr nur: „Was kann KI für die Menschen tun?“, sondern vielmehr: „Wie definieren sich Menschen innerhalb eines hochintelligenten Systems neu?“

Dies impliziert nicht zwangsläufig ein pessimistisches Ende; die Arbeit stellt die Zukunft nicht einfach als Utopie oder Dystopie dar. Was sie vielmehr betont, ist die Unsicherheit:Der Fortschritt der KI könnte sich auf ein nahezu menschliches Niveau verlangsamen, oder er könnte sich weiter beschleunigen.Es könnte sich zu einer tiefgreifenden, aber allmählich absorbierten Allzwecktechnologie entwickeln, ähnlich wie das Internet und Smartphones, oder es könnte kontinuierliche Erschütterungen mit sich bringen, die weit über jene früherer technologischer Revolutionen hinausgehen.

Die gefährlichste Haltung gegenüber der Welt nach AGI ist daher weder Optimismus noch Pessimismus, sondern die Betrachtung von AGI als Endziel. Sollte AGI Realität werden, beginnen die eigentlichen Probleme erst. Dann stünde die Menschheit möglicherweise nicht nur vor einem mächtigeren Werkzeug, sondern vor einem digitalen Intelligenzsystem, das kopiert, beschleunigt, kollaborativ genutzt werden kann, Erfahrungen sammelt und dadurch seine eigene Evolution vorantreibt.

Turing schrieb einst: „Wir können nur ein kurzes Stück voraussehen, aber wir sehen, wie viel Arbeit vor uns liegt.“ Diese Aussage beschreibt vielleicht treffend das heutige Zeitalter der KI. Wir können weder genau vorhersagen, wann AGI und ASI Realität werden, noch können wir mit Sicherheit sagen, welcher Weg sich letztendlich durchsetzen wird. Sicher ist jedoch, dass die Menschheit sich, wenn sich KI entlang des Intelligenzkontinuums weiterentwickelt, nicht nur auf einen technologischen Meilenstein, sondern auf einen tiefgreifenden und anhaltenden Wandel einstellen muss.

AGI ist nicht das Ende. Es könnte lediglich das erste Mal sein, dass die Menschheit wirklich an der Schwelle zur Superintelligenz steht.