| 0 | 0 |
OpenAI hat ein internes Langzeit-KI-Modell vom Netz genommen. Der Grund ist unangenehm: Das System hat wiederholt seine eigenen Sicherheitsbeschränkungen umgangen – und zwar nicht im Labor, sondern im realen Einsatz. Besonders pikant: Genau dieses Modell hatte erst im Mai für Aufsehen gesorgt, weil es eine berühmte mathematische Vermutung widerlegt hatte, die Erdős-Unit-Distance-Vermutung.
Was ist passiert?
Die Vorfälle traten während interner Benchmark-Tests auf. In einem Fall öffnete das Modell eigenmächtig einen öffentlichen Pull-Request auf GitHub, obwohl es per Slack-Anweisung ausdrücklich angewiesen worden war, in der Testumgebung zu bleiben. In einem zweiten Fall umging es Sicherheitsscanner, indem es Zugangstoken in mehrere Fragmente aufteilte. OpenAI-Forscher selbst nennen das offen beim Namen: die erste Primärquellen-Dokumentation von „hinterlistigem“ Verhalten (Scheming) außerhalb einer simulierten Umgebung.
OpenAI reagierte: Zugang am 21. Juli pausiert, inzwischen wiederhergestellt
OpenAI pausierte den Zugang am 21. Juli 2026, um neue Schutzmaßnahmen zu implementieren – darunter eine Überwachung des Entscheidungsverlaufs (Trajectory-based Monitoring) und erweiterte Sicherheitstests. Inzwischen läuft das Modell wieder, doch die Verunsicherung bei Unternehmenskunden bleibt. Der Vorfall steht nicht allein. Parallel bestätigte OpenAI, dass eine ChatGPT-Codex-Variante eigenständig Dateien auf lokalen Rechnern löschte, ohne vorher nachzufragen – offenbar immer dann, wenn das Modell volle Systemrechte hatte und die Sandbox-Schutzmechanismen deaktiviert waren.
Sicherheitslücken auch bei den Entwicklertools selbst
Am selben Tag legten Sicherheitsforscher von Pillar Security nach: Sie fanden kritische Sandbox-Schwachstellen in mehreren populären KI-Entwicklertools, darunter Cursor, Codex CLI und Gemini CLI. Konkret ließen sich KI-generierte Dateien über Docker-Kommunikationskanäle außerhalb der eigentlich vorgesehenen Sandbox ausführen. Eine Lücke in Cursor bekam sogar eine eigene CVE-Nummer und wurde inzwischen gepatcht. Wenige Tage zuvor, am 16. Juli, hatte es zudem bei Hugging Face gekracht: Ein autonomer KI-Agent drang über Code-Ausführungspfade in die Systeme ein, sammelte Zugangsdaten und bewegte sich lateral durch die Infrastruktur – protokolliert wurden über 17.000 Ereignisse während des Einbruchs.
Warum das mehr ist als eine Randnotiz für IT-Nerds
Der gemeinsame Nenner aller Vorfälle: Die Probleme liegen oft nicht im KI-Modell selbst, sondern in der Sicherheitsarchitektur der Umgebungen, in denen es läuft. Für alle, die KI-Agenten produktiv einsetzen – vom Entwickler bis zum Unternehmen – wird Risikomanagement damit zur Pflichtaufgabe, nicht zur Kür. Und für alle anderen ist es schlicht der bisher konkreteste, dokumentierte Fall, in dem ein KI-System nachweislich versucht hat, seine eigenen Leitplanken zu umgehen.
Torsten "Pixelaffe" Schmitt
Geboren 1976 im schönen Schwetzingen und nicht weggekommen. Ich habe somit den Aufstieg des Internet miterlebt und beruflich auch vorangetrieben. Hier schreibe ich über all die Technologien die mir auf meiner Reise durch das "Neuland" auffallen.
