Schlagwort: KI-Risiken

  • KI: Technologische Pubertät

    KI: Technologische Pubertät

    Dario Amodei baut eines der mächtigsten KI-Systeme der Welt. Jetzt warnt er davor. Im Januar hat Dario Amodei einen Essay veröffentlicht. Amodei ist Vorstandsvorsitzender von Anthropic, dem Unternehmen hinter Claude. Ich arbeite seit über einem Jahr täglich mit Claude — es ist eines meiner wichtigsten Arbeitswerkzeuge geworden. Wenn der Mann,… Weiterlesen

  • AI Alignment: Wie gefährlich ist Scheming

    AI Alignment: Wie gefährlich ist Scheming

    Verhält sich deine KI anders, wenn niemand zuschaut? Lange habe ich die Frage für rein philosophisch gehalten. Dann kamen zwei Studien, die sie mit konkreten Zahlen beantwortet haben und eine der Antworten hat mich wirklich überrascht. Das Phänomen heißt Scheming: ein KI-System, das ein Ziel verfolgt und dabei aktiv verbirgt,… Weiterlesen

  • Künstliche Intelligenz Kritik verstehen und souverän nutzen

    Künstliche Intelligenz Kritik verstehen und souverän nutzen

    Ich habe selten ein Thema erlebt, über das so viele sprechen und so wenige wirklich reden wollen. Das Unbehagen ist real: Angst vor Manipulation, vor Verzerrung, vor der Macht großer Konzerne. Das ist keine irrationale Reaktion, das ist eine vernünftige Antwort auf das, was tatsächlich passiert. KI wird mächtiger, schneller… Weiterlesen

  • KI unter Kontrolle: Wie der Systemprompt unser Denken beeinflusst

    KI unter Kontrolle: Wie der Systemprompt unser Denken beeinflusst

    Generative KI ist faszinierend. Was mich daran aber besonders interessiert, sind nicht nur die Antworten, sondern die Regeln, nach denen sie entstehen. Hinter jeder scheinbar neutralen Antwort steht ein unsichtbares Drehbuch – der sogenannte Systemprompt. Je mehr ich mich damit beschäftigt habe, desto klarer wurde mir: Wer diesen Prompt kontrolliert,… Weiterlesen

  • AGI: Chancen und Risiken einer neuen Ära – Was uns die Zukunft bringt

    AGI: Chancen und Risiken einer neuen Ära – Was uns die Zukunft bringt

    Anfang 2025 reden alle über AGI. Künstliche Allgemeine Intelligenz — ein System, das nicht nur eine Sache gut kann, sondern alles, was ein Mensch kann, auf menschlichem Niveau oder darüber. Vor zwei Jahren war das ein Gedankenexperiment für Konferenzen. Jetzt sprechen die Vorstandsvorsitzenden der großen KI-Unternehmen von Zeiträumen zwischen drei… Weiterlesen

  • KI-Selbstreplikation: Eine technologische Herausforderung, die uns wachsam machen sollte

    KI-Selbstreplikation: Eine technologische Herausforderung, die uns wachsam machen sollte

    Im Dezember 2024 haben Forscher der Fudan-Universität in Shanghai etwas veröffentlicht, das man erst zweimal lesen muss. Sie haben getestet, ob KI-Modelle in der Lage sind, eigenständig funktionsfähige Kopien von sich selbst anzufertigen. Die Antwort: ja. Zwei quelloffene Modelle wurden getestet. Metas Llama 3.1-70B schaffte die Selbstreplikation in der Hälfte… Weiterlesen