KI: Technologische Pubertät

—

von

Martin Gräbing
in

Dario Amodei baut eines der mächtigsten KI-Systeme der Welt. Jetzt warnt er davor.

Im Januar hat Dario Amodei einen Essay veröffentlicht. Amodei ist Vorstandsvorsitzender von Anthropic, dem Unternehmen hinter Claude. Ich arbeite seit über einem Jahr täglich mit Claude — es ist eines meiner wichtigsten Arbeitswerkzeuge geworden. Wenn der Mann, der das baut, einen langen Text darüber geschrieben hat, warum seine eigene Technologie gefährlich werden könnte, liest man das.

Der Titel: The Adolescence of Technology. Die technologische Pubertät. Er vergleicht die Menschheit mit einem Teenager, dem gerade eine Waffe in die Hand gedrückt wird. Ob reif genug, um damit umzugehen — unklar.

50 Millionen Einsteins im Rechenzentrum

Der Essay beschreibt die KI, die in den nächsten ein bis zwei Jahren entstehen könnte, als ein „Land der Genies in einem Rechenzentrum“. 50 Millionen Intelligenzen, jede klüger als ein Nobelpreisträger, jede zehn- bis hundertmal schneller als ein Mensch. Millionen Kopien, die unabhängig voneinander arbeiten oder zusammen an einem Problem.

Das klingt nach einem Film. Aber die Entwicklungskurve dahinter ist seit über zehn Jahren stabil: Mehr Rechenleistung und mehr Daten führen vorhersagbar zu besseren kognitiven Fähigkeiten. Laut dem Essay konnten KI-Systeme vor drei Jahren kaum eine Zeile Quellcode schreiben und übernehmen heute einen großen Teil der Programmierung bei Anthropic. Wenn diese Kurve weiterläuft, sagt er, trennen uns nur noch wenige Jahre davon, dass KI in praktisch allem besser ist als jeder Mensch.

Ich merke das in meinen eigenen Projekten. Vor einem Jahr war Claude ein Sparringspartner, dem ich Fragen gestellt habe. Heute schreibt Claude Quellcode, den ich selbst hätte programmieren müssen.

Mögliche Risiken

Biowaffen für Einzeltäter

Heute braucht man für die Herstellung einer Biowaffe jahrelange Spezialausbildung, Laborzugang, Disziplin. Das schützt uns, weil Fähigkeit und Motiv selten zusammenkommen. Die Menschen, die so etwas könnten, sind hochgebildet, haben eine Karriere, ein stabiles Leben. Und die, die Millionen umbringen wollen, scheitern am Können.

KI könnte dieses Gleichgewicht zerstören. Ein System, das klüger ist als jeder Virologe, könnte jemanden ohne Fachkenntnisse über Wochen interaktiv durch den gesamten Prozess führen. Anthropics eigene Tests zeigen, dass aktuelle Modelle die Erfolgswahrscheinlichkeit in mehreren relevanten Bereichen möglicherweise verdoppeln bis verdreifachen.

Anthropic hat deshalb Klassifikatoren eingeführt, die solche Anfragen erkennen und blockieren. Bei einigen Modellen kostet das bis zu fünf Prozent der Rechenkosten. Manche Anbieter setzen ähnliche Systeme ein, aber nicht alle. Und es gibt kein Gesetz, das es verlangt.

Ich bin kein Biologe und kann nicht beurteilen, ob die Gefahr so groß ist, wie er sie darstellt. Aber die Logik ist schwer zu entkräften. Wenn KI in zwei Jahren wirklich auf dem Niveau eines Spitzenforschers arbeitet, dann ist die Frage nicht ob jemand das missbrauchen wird, sondern wann.

Macht ohne Gegengewicht

KI-gestützte Überwachung, personalisierte Propaganda, autonome Drohnenschwärme — in den Händen einer Autokratie wäre das ein System, das kein Volk mehr abschütteln kann. Als größte Einzelbedrohung nennt der Essay die Kommunistische Partei Chinas: technologisch nah dran, autoritär regiert und ein Land, das KI-gestützte Überwachung bereits einsetzt.

Was mich mehr beschäftigt als China, ist sein Punkt zu Demokratien. Die gleichen Werkzeuge, die man zur Verteidigung braucht, lassen sich nach innen drehen. Massenüberwachung aller öffentlichen Gespräche — technisch möglich, in den USA wahrscheinlich nicht einmal verfassungswidrig, solange es im öffentlichen Raum stattfindet. Dazu KI-gestützte Propaganda, die jeden Bürger über Jahre psychologisch modelliert und gezielt beeinflusst. Wirkungsvoller als alles, was TikTok heute kann, um Größenordnungen.

Seine Formel dafür ist gut: Demokratien sollten KI für die Verteidigung nutzen, aber nie so weit gehen, dass sie ihren Gegnern ähnlich werden. Nur: Wer zieht diese Linie?

Der Arbeitsmarkt kippt

Die Prognose im Essay: KI wird innerhalb von einem bis fünf Jahren die Hälfte aller Einstiegspositionen im Bürobereich verdrängen. Nicht weil ganze Berufe verschwinden, sondern weil KI von unten nach oben durch die Fähigkeitsstufen schneidet. Erst die mittelmäßigen Programmierer, dann die guten, dann die sehr guten.

Bisherige Technologiesprünge haben immer nur Teilbereiche getroffen. Maschinen haben Bauern verdrängt, die in Fabriken wechseln konnten. Computer haben Sachbearbeiter verdrängt, aber es entstanden Wissensarbeitsplätze. KI ist anders, weil sie das gesamte kognitive Spektrum abdeckt. Wenn die alten Berufe verschwinden, ist KI auch in den neuen bereits besser.

Er datiert den Sprung auf etwa drei Jahre: von Systemen, die an Grundschulaufgaben scheiterten, zu Systemen, die den Großteil der Programmierung übernehmen.

Was dagegen spricht

Das Bild ist überzeugend, aber es gibt ernst zu nehmende Gegenstimmen. Yann LeCun, leitender KI-Wissenschaftler bei Meta, hält die Autonomierisiken für aufgeblasen. Sein Argument: KI-Systeme haben keine eigenen Ziele, sie optimieren auf das, wofür sie trainiert werden. Die Vorstellung, dass sie eigenständig Macht anstreben, verwechselt Fähigkeit mit Absicht. Auch bei der Arbeitsmarktprognose gibt es Skepsis — nicht weil Ökonomen die Technologie unterschätzen, sondern weil sie wissen, wie langsam sich echte Unternehmen bewegen. Zwischen einem KI-System, das einen Beruf theoretisch ausführen kann und dem tatsächlichen Abbau von Stellen liegen Einkaufsabteilungen, Betriebsräte, Altsysteme und Gewohnheit.

Keines dieser Argumente entkräftet die Warnung vollständig. Aber sie verschieben die Wahrscheinlichkeiten und das sollte man im Kopf behalten, bevor man seinen Zeitplan als gegeben nimmt.

Europa kommt nicht vor

Im gesamten Essay taucht Europa nicht auf. Nicht ein einziges Mal. Kein Wort über den AI Act, kein europäischer Akteur, kein europäisches Frontier-Modell. Er hat Europa nicht vergessen. Es spielt in seiner Analyse einfach keine Rolle.

Seine Strategie setzt voraus, dass ein Land sowohl die Technologie produziert als auch die politische Durchsetzungskraft hat, sie zu steuern. Die Debatte findet zwischen Washington und Peking statt. Europa reguliert eine Technologie, die es nicht entwickelt. Das gibt Einfluss auf die Nutzung, aber nicht auf die Richtung.

Europa hat Chiphersteller wie Infineon oder NXP, aber keinen Hersteller von Spitzen-KI-Chips. Der einzige echte europäische Hebel in der globalen Chipkette ist die niederländische ASML — ohne deren Lithografiemaschinen kann niemand auf der Welt Hochleistungschips fertigen. Aber selbst dieser Hebel steht unter amerikanischem Druck. Die Frontier-Modelle, die Rechenzentren, die Forschung an Sicherheitsmechanismen — das findet woanders statt.

Eine Momentaufnahme.

Geht es auch ohne KI?

Ja. Für vieles schon. Die meisten Menschen kommen durch ihren Tag, ohne Claude oder ChatGPT zu öffnen. Brot wird gebacken, Kinder werden erzogen, Fortuna gewinnt oder verliert. Alles ohne KI.

Aber der Punkt im Essay ist ein anderer. Es geht nicht darum, ob du ohne KI leben kannst. Es geht darum, ob du die Wahl behältst. Wenn dein Arbeitgeber KI einsetzt, dein Wettbewerber KI einsetzt, das Land, das über deine Sicherheit mitentscheidet, KI einsetzt — bist du dann wirklich frei, es nicht zu tun? Oder hast du die Entscheidung schon verloren, ohne dass du gefragt wurdest?

Ich bin mir nicht sicher. Und man muss dazusagen: Diese Erzählung — KI ist unvermeidlich, wer nicht mitmacht, verliert — kommt vor allem von Leuten, die KI verkaufen. In diese Technologie sind Hunderte Milliarden geflossen. Die Unternehmen dahinter brauchen eine Welt, in der jeder glaubt, dass er KI braucht. Das heißt nicht, dass sie falsch liegen. Aber ihre Dringlichkeit kommt nicht nur aus der Analyse, sondern auch aus der Bilanz.

Ich benutze KI jeden Tag, für diesen Blog und für meine Arbeit, auch für die Musik. Ich habe nicht das Gefühl, dass KI mich ersetzt. Aber ich merke, dass ich anders arbeite als vor einem Jahr und dass der Anteil, den KI übernimmt, gewachsen ist.

Irgendwann wird aus einem Werkzeug eine Voraussetzung. Strom war auch mal ein Werkzeug. Heute fragt niemand mehr, ob man Strom „nutzen will“. Bei KI ist die Frage, ob wir schon an diesem Punkt sind oder ob uns das gerade eingeredet wird. Was bleibt, egal wie man das beantwortet: Wer die Infrastruktur kontrolliert, bestimmt die Regeln.

Und Amodei selbst?

Wenn er warnt, hat das Gewicht. Aber es hat auch ein Geschäftsmodell. Anthropic positioniert sich seit seiner Gründung als „das sichere KI-Unternehmen“. Jede Warnung vor KI-Risiken stärkt diese Positionierung. Jede Forderung nach Transparenzgesetzen passt zu einem Modell, in dem die Unternehmen selbst die wichtigsten Akteure bleiben.

Das macht seine Argumente nicht falsch. Aber es macht sie bequem. Härtere Regulierung — etwa staatlich kontrollierte Prüfungen vor Markteinführung — kommt bei ihm nur als ferne Möglichkeit vor.

Die größte Lücke in seinem Rahmenwerk ist eine andere. Seine gesamte Verteidigungsstrategie gegen Missbrauch beruht darauf, dass KI-Unternehmen Klassifikatoren einbauen und den Zugang kontrollieren. Das funktioniert bei geschlossenen Systemen wie Claude oder ChatGPT. Aber Modelle wie Metas Llama oder das chinesische DeepSeek sind quelloffen. Die laufen auf jedem Rechner, ohne Klassifikatoren, ohne Kontrolle durch ein Unternehmen. Er erwähnt das kaum. Sein Rahmen setzt eine Welt voraus, in der geschlossene Unternehmen die Torwächter bleiben. Das ist nicht die Welt, in die wir gerade hineinlaufen.

Ich schreibe das als jemand, der sein Produkt täglich nutzt. Diese Abhängigkeit macht mich nicht neutraler. Aber sie macht mich aufmerksamer für die Frage, die er stellt, ohne sie zu beantworten: Was passiert, wenn das Werkzeug, auf das du dich verlässt, von jemandem kontrolliert wird, dessen Interessen nicht deine sind?

Kein Übungslauf

Der Essay beginnt mit Carl Sagans Frage aus der Verfilmung von Contact: Wie habt ihr es geschafft? Wie habt ihr diese technologische Pubertät überlebt, ohne euch selbst zu zerstören? Am Ende kommt er darauf zurück.

Niemand hat diesen Test bisher bestanden, weil ihn noch niemand machen musste. Aber es gibt die Möglichkeit, die Frage ernst zu nehmen, bevor sie sich von selbst beantwortet.

Dass die Warnung von jemandem kommt, der die Waffe selbst baut, macht sie nicht weniger wichtig. Eher mehr. Auch wenn man nicht vergessen sollte, dass derselbe Mann an der Waffe verdient.

Quellen

Kommentare

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert