Anfang 2025 reden alle über AGI. Künstliche Allgemeine Intelligenz — ein System, das nicht nur eine Sache gut kann, sondern alles, was ein Mensch kann, auf menschlichem Niveau oder darüber. Vor zwei Jahren war das ein Gedankenexperiment für Konferenzen. Jetzt sprechen die Vorstandsvorsitzenden der großen KI-Unternehmen von Zeiträumen zwischen drei und fünf Jahren.
Ich weiß nicht, ob sie recht haben. Niemand weiß das. Aber die Frage hat sich verändert. Es geht nicht mehr darum, ob AGI theoretisch möglich ist. Es geht darum, was passiert, wenn sie kommt, und ob wir darauf vorbereitet sind.
Was auf dem Spiel steht
Wenn ein System tatsächlich jede kognitive Aufgabe übernehmen kann, verschiebt sich die Grundlage, auf der unsere Wirtschaft funktioniert. Arbeit war bisher der Weg, über den die meisten Menschen an Einkommen, Status und gesellschaftliche Teilhabe kommen. Wenn Maschinen das billiger und besser können, bleibt die Frage, wovon Menschen leben und wofür sie gebraucht werden.
Die naheliegende Antwort — ein Grundeinkommen — löst das materielle Problem. Aber nicht das psychologische. Menschen wollen nicht nur versorgt werden, sie wollen etwas beitragen. Was das in einer Welt bedeutet, in der jede kognitive Leistung maschinell billiger zu haben ist, hat bisher niemand überzeugend beantwortet.
Gleichzeitig verschiebt sich Macht. Wer die Modelle besitzt, die Rechenzentren betreibt und die Daten kontrolliert, hat Einfluss, der weit über das hinausgeht, was einzelne Unternehmen heute haben. Das ist kein abstraktes Risiko. Die Konzentration ist bereits sichtbar — eine Handvoll Unternehmen in den USA und China dominiert die gesamte KI-Entwicklung.
Was ich nicht weiß
Ich bin kein KI-Forscher. Ich arbeite mit KI-Werkzeugen, ich lese, was die Forschung veröffentlicht, ich versuche, die Entwicklung einzuordnen. Und je mehr ich lese, desto unsicherer werde ich — nicht ob KI wichtig ist, sondern wie schnell und wie tiefgreifend die Veränderungen sein werden.
Die Zeitlinien, die gerade kursieren, könnten stimmen. Sie könnten auch um ein Jahrzehnt daneben liegen. Beide Möglichkeiten sind real, und wer so tut, als wüsste er es besser, verkauft entweder KI oder Klicks.
Was mich beschäftigt, ist etwas anderes: Die Debatte wird geführt, als gäbe es nur zwei Positionen. Entweder AGI rettet die Welt, oder AGI zerstört sie. Beides ist bequem, weil es keine Entscheidungen verlangt. Die unbequeme Wahrheit liegt dazwischen — AGI könnte beides gleichzeitig sein, je nachdem, wer sie kontrolliert und unter welchen Bedingungen.
Die Fragen, die bleiben
Wie stellen wir sicher, dass ein System, das klüger ist als jeder Mensch, sich an Regeln hält, die Menschen geschrieben haben? Wer haftet, wenn es das nicht tut? Wer entscheidet, welche Werte in ein solches System eingebaut werden? Und wer kontrolliert die Kontrolleure?
Das sind keine rhetorischen Fragen. Es sind offene Fragen, auf die ich keine Antworten habe. Aber sie zu stellen ist besser, als so zu tun, als hätte sie jemand schon beantwortet.
Quellen
- Dario Amodei: Machines of Loving Grace, Oktober 2024, darioamodei.com/essay/machines-of-loving-grace — Essay über positive Szenarien leistungsfähiger KI, Hintergrund für die AGI-Zeitlinien in diesem Artikel
Schreibe einen Kommentar