BSI warnt vor Anthropic-Modell das Sicherheitslücken finden soll

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) zeigt sich besorgt über ein neues KI-Modell von Anthropic. Hintergrund ist Claude Mythos Preview, ein System, das laut Anthropic in der Lage ist, versteckte Schwachstellen in gängiger Software nicht nur zu finden, sondern teils auch direkt auszunutzen. Das BSI erwartet dadurch spürbare Veränderungen für die künftige Bedrohungslage im Netz.

Anthropic beschreibt das Modell selbst als deutlich leistungsfähiger als frühere Systeme bei der Suche nach Zero-Day-Lücken. In einem eigenen Sicherheitsbeitrag erklärt das Unternehmen, dass Mythos Preview Schwachstellen in allen großen Betriebssystemen und wichtigen Browsern gefunden habe. Teilweise soll das Modell sogar komplexe Exploit-Ketten eigenständig gebaut haben. Öffentlich freigegeben wird das System deshalb vorerst nicht. Stattdessen erhalten nur ausgewählte Partner im Rahmen von Project Glasswing Zugriff, darunter große Tech-Konzerne und Sicherheitsfirmen.

Für das BSI ist das mehr als nur ein weiterer Fortschritt bei KI-gestützter Sicherheitsforschung. Präsidentin Claudia Plattner erklärte, man nehme die Ankündigungen sehr ernst und erwarte „Umwälzungen im Umgang mit Sicherheitslücken und in der Schwachstellenlandschaft insgesamt“. Daraus könne sich ein echter Paradigmenwechsel bei der Cyberbedrohungslage ergeben. Zugleich wirft das Thema laut BSI auch Fragen der nationalen und europäischen Sicherheit sowie der digitalen Souveränität auf.

Noch hat das BSI das Modell nach eigenen Angaben nicht selbst getestet. Die Behörde steht aber bereits mit Anthropic im Austausch.