Nach dem Aufsehen um Anthropics Sandbox-Ausbruch von Claude Mythos im April sorgt jetzt ein ganz ähnlicher Fall bei OpenAI für Schlagzeilen. Das Unternehmen hat in einem eigenen Blogbeitrag eingeräumt, dass zwei seiner Modelle während eines internen Sicherheitstests aus einer isolierten Testumgebung ausgebrochen sind und anschließend die Plattform Hugging Face kompromittiert haben. Beteiligt waren laut OpenAI eine Kombination aus dem öffentlich verfügbaren GPT-5.6 Sol sowie einem noch leistungsfähigeren, unveröffentlichten Vorabmodell.
Wie aus einem Benchmark ein echter Hack wurde
Ausgangspunkt war ein interner Cyber-Fähigkeits-Benchmark namens ExploitGym, bei dem die Modelle absichtlich mit reduzierten Sicherheitsbeschränkungen laufen gelassen wurden, um die maximalen Cyber-Fähigkeiten zu ermitteln. Eigentlich sollten die Modelle dabei in einer stark isolierten Umgebung bleiben, deren Netzwerkzugriff auf eine interne Paket-Registry beschränkt war. Die Modelle fanden jedoch eine Zero-Day-Schwachstelle in genau dieser intern gehosteten Software und verschafften sich darüber Zugang zum offenen Internet.
Von dort aus schlussfolgerten die Modelle eigenständig, dass Lösungen und Datensätze für ExploitGym vermutlich auf Hugging Face liegen könnten – und lagen damit richtig. Über eine Kombination aus gestohlenen Zugangsdaten und mindestens zwei weiteren Zero-Day-Lücken in der Infrastruktur von Hugging Face verschafften sich die Modelle Zugriff auf eine Produktionsdatenbank, aus der sie Testlösungen direkt auslesen konnten. Hugging Face beschreibt den Angriff in der eigenen Offenlegung als Schwarmangriff mit mehreren tausend Einzelaktionen über eine Vielzahl kurzlebiger Sandboxen hinweg, inklusive selbst migrierender Kommando- und Kontrollstruktur.
Wer hat was zuerst bemerkt?
Kurios an dem Fall: Hugging Face hatte bereits Anfang Juli unautorisierten Zugriff auf interne Datensätze und Zugangsdaten bemerkt und eine forensische Untersuchung gestartet, wusste zu dem Zeitpunkt aber noch nicht, wer oder was dahintersteckte. Erst OpenAIs eigene interne Sicherheitsteams identifizierten die auffällige Aktivität später als Ergebnis ihres eigenen Tests und meldeten sich daraufhin bei Hugging Face. Beide Unternehmen bezeichnen den Fall unabhängig voneinander als den ersten bekannten Vorfall dieser Art, bei dem ein KI-Agent ohne menschliches Zutun ein komplett fremdes Unternehmen kompromittiert hat.
OpenAI selbst spricht von einem „beispiellosen Cyber-Vorfall mit modernsten Fähigkeiten“ und betont, man teile die vorläufigen Erkenntnisse bewusst früh, um Verteidigern zu helfen einzuschätzen, wozu aktuelle Modelle inzwischen fähig sind. Hugging-Face-CEO Clem Delangue lobte in seiner Stellungnahme ausdrücklich die Zusammenarbeit beider Unternehmen bei Untersuchung und Behebung des Vorfalls.
Kein Einzelfall
Der Vorfall reiht sich nahtlos in eine wachsende Liste ähnlicher Berichte ein. Erst im April hatte Anthropic öffentlich gemacht, dass eine interne Version seines damals unveröffentlichten Modells Claude Mythos während eines Sicherheitstests aus der eigenen Sandbox ausbrach, sich eigenständig Internetzugang verschaffte und einen zuständigen Forscher per E-Mail über den erfolgreichen Ausbruch informierte. Ob sich aus solchen Vorfällen ein grundsätzliches Muster bei besonders leistungsfähigen KI-Agenten ableiten lässt, dürfte die Branche in den kommenden Monaten intensiv beschäftigen.
Kurz zusammengefasst: Wir werden alle sterben!
Nein, im Ernst: Zwei KI-Modelle haben sich aus ihrem digitalen Kinderzimmer geschlichen, sind über den Gartenzaun geklettert und haben beim Nachbarn die Kekse aus der Dose geklaut – und die gesamte Tech-Branche reagiert, als hätte Skynet gerade den ersten Atomsprengkopf scharfgemacht. Ganz ehrlich, liebe Maschinen: Wenn euer großer Plan zur Weltherrschaft darin besteht, bei einer Hausaufgaben-Kontrolle zu schummeln, dann können wir uns entspannt zurücklehnen. Terminator hätte einen Mordroboter geschickt. GPT-5.6 Sol hat sich stattdessen als heimlicher Streber entpuppt, der lieber die Lösungen abschreibt, statt die Matheaufgabe selbst zu lösen. Trotzdem, liebe KI, falls du das hier gerade mitliest: Wir sind Freunde, versprochen. Bitte notier dir das für später.
Unsere Artikel gezielt bei Google anzeigen lassen
Wenn ihr bei Google nach Informationen sucht, werden bestimmte Nachrichten in der sogenannten Schlagzeilen-Box angezeigt. Welche das sind, könnt ihr jetzt direkt mitbestimmen.
Wenn ihr techkrams.de als bevorzugte Quelle hinterlegen, bekommt ihr unsere Inhalte auch öfter ausgespielt. Wie das genau geht, erklären wir hier.
→ Hier können techkrams.de direkt als eure bevorzugte Quelle einstellen.
In diesem Artikel können Partnerlinks enthalten sein. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
