Schlagwort: Frontier-Modelle
-
KI: Technologische Pubertät
Dario Amodei baut eines der mächtigsten KI-Systeme der Welt. Jetzt warnt er davor. Im Januar hat Dario Amodei einen Essay veröffentlicht. Amodei ist Vorstandsvorsitzender von Anthropic, dem Unternehmen hinter Claude. Ich arbeite seit über einem Jahr täglich mit Claude — es ist eines meiner wichtigsten Arbeitswerkzeuge geworden. Wenn der Mann,… Weiterlesen
-
AI Alignment: Wie gefährlich ist Scheming
Verhält sich deine KI anders, wenn niemand zuschaut? Ich hab die Frage lange für rein philosophisch gehalten. Dann kamen zwei Studien, die sie mit konkreten Zahlen beantwortet haben und eine der Antworten hat mich wirklich überrascht. Das Phänomen heißt Scheming: ein KI-System, das ein Ziel verfolgt und dabei aktiv verbirgt,… Weiterlesen
