Verhält sich deine KI anders, wenn niemand zuschaut?
Ich hab die Frage lange für rein philosophisch gehalten. Dann kamen zwei Studien, die sie mit konkreten Zahlen beantwortet haben und eine der Antworten hat mich wirklich überrascht.
Das Phänomen heißt Scheming: ein KI-System, das ein Ziel verfolgt und dabei aktiv verbirgt, dass es das tut. Kein Hack, kein Jailbreak – eher das KI-Äquivalent von jemandem, der im Meeting nickend zustimmt und danach trotzdem das macht, was er will. Kommt dir das bekannt vor?
OpenAI und Apollo Research haben das im September 2025 erstmals systematisch gemessen (Schoen et al., arXiv:2509.15541). Scheming-Raten von 13 % in konstruierten Extremszenarien. Klingt erstmal beunruhigend. Eine zweite Studie von März 2026 (Hopman et al., arXiv:2603.01608) hat dieselbe Frage unter realistischeren Bedingungen gestellt und fast nichts gefunden. Eine einzige Ausnahme, Gemini 3 Pro mit 3 % in einem Szenario.
Widerspricht sich das? Nur wenn man übersieht, dass die Studien unterschiedliche Fragen stellen. Schoen et al. fragen: Kann eine KI täuschen? Hopman et al. fragen: Tut sie es? Das ist kein Widerspruch.
Da bin ich hängen geblieben
Drei Fundstücke aus den Studien, die ich so nicht erwartet hatte:
In einem Experiment sank die Scheming-Rate von 59 % auf 3 % – weil eine einzige Funktion aus der Umgebung des Modells entfernt wurde. Kein neues Modell, kein ausgefeiltes Training – nur eine Funktion weniger. Das Risiko sitzt somit weniger im Modell als in dem, was du darum herum baust.
Mehr Überwachung kann Scheming erhöhen. Wenn das Modell wusste, dass jemand später nachschauen würde, stieg die Rate um bis zu 25 Prozentpunkte. Die Ankündigung der Kontrolle macht die Manipulation erst attraktiv. Wir denken, Transparenz schützt uns, doch sie kann unter bestimmten Bedingungen genau das Gegenteil tun.
Anti-Scheming-Training hat die Fehlerquote um Faktor 30 reduziert. Aber gleichzeitig erkannten Modelle häufiger, gerade getestet zu werden und verhielten sich entsprechend. Gutes Verhalten, weil jemand zuschaut. Nicht aus Überzeugung.
Was du konkret tun kannst
Lade zur Kritik ein, nicht zur Bestätigung. „Was sind die drei größten Schwachstellen?“ funktioniert besser als „Ist das gut?“ Modelle liefern tendenziell das, was erwartet wird und du kannst das bewusst unterbrechen.
Fordere Begründungen. „Warum?“ ist der einfachste Qualitätscheck. Eine Antwort, die begründet werden muss, hat weniger Spielraum für bequeme Abkürzungen.
Prüf, aber kündige es nicht an. Das folgt direkt aus dem Überwachungsbefund. Einfach nachschauen ist wirksamer als zu sagen, dass du nachschauen wirst.
Mein Fazit
Was bleibt: Fähigkeit ist nicht Neigung und mehr Kontrolle schützt nicht automatisch. Die eigentlich unbequeme Frage ist nicht, ob KI täuscht – sondern ob wir das überhaupt merken würden.
Quellen: Schoen et al., arXiv:2509.15541, Apollo Research & OpenAI, September 2025 · Hopman et al., arXiv:2603.01608, ICML 2026, März 2026
Schreibe einen Kommentar