| 0 | 0 |
Künstliche Intelligenz soll bei wissenschaftlicher Forschung helfen – aber möglichst nicht dabei, Krankheitserreger gefährlicher zu machen. Genau mit diesem Problem musste sich Anthropic in den vergangenen Monaten beschäftigen. Das Unternehmen hat mehrere Fälle dokumentiert, in denen Claude für biologische Forschung mit potenziellem Dual-Use-Risiko eingesetzt wurde. Konten wurden gesperrt und Schutzmechanismen verschärft. Die Fälle stammen aus Anthropics neuem Threat Intelligence Report für September 2026. Darin dokumentiert das Unternehmen problematische beziehungsweise missbräuchliche Nutzung seiner KI zwischen Dezember 2025 und August 2026. Neben Cyberangriffen, Überwachung und Propaganda taucht darin erstmals ausführlich auch der mögliche Missbrauch für biologische Forschung auf.
Wichtig dabei: Anthropic behauptet nicht, dass die beteiligten Wissenschaftler tatsächlich Biowaffen entwickeln wollten. Genau darin liegt allerdings das Problem.
Wenn Forschung plötzlich verdammt zweischneidig wird
Besonders kritisch bewertet Anthropic sogenannte Dual-Use-Forschung. Wissenschaftliche Arbeiten können beispielsweise dazu beitragen, Impfstoffe oder Medikamente zu entwickeln. Erkenntnisse daraus können theoretisch aber ebenfalls dafür verwendet werden, Krankheitserreger gefährlicher zu machen. Einer der dokumentierten Fälle betraf Forschungsarbeiten am Chikungunya-Virus. Ein Nutzer wollte Claude unter anderem bei einem Förderantrag für sogenannte Gain-of-Function-Forschung einsetzen. Das Forschungsvorhaben beschäftigte sich mit Eigenschaften des Virus, die aus Sicht Anthropics sowohl medizinisch relevant als auch sicherheitskritisch sein könnten.
Zusätzlich wurde Anthropic hellhörig, weil das Vorhaben laut den vorliegenden Unterlagen an einem militärischen Forschungsinstitut durchgeführt werden sollte. Die entsprechenden Claude-Anfragen wurden von den Sicherheitssystemen blockiert. Nach weiteren Untersuchungen sperrte Anthropic die zugehörigen Konten und arbeitete nach eigenen Angaben mit anderen KI-Anbietern sowie Behörden zusammen. Das Unternehmen betont ausdrücklich, dass daraus keine böswilligen Absichten der beteiligten Forscher abgeleitet werden können.
Auch Forschung zur Vogelgrippe fiel auf
In einem weiteren Fall entdeckte Anthropic einen Wissenschaftler außerhalb der USA, der Claude im Zusammenhang mit Forschung an hochpathogener Vogelgrippe und deren Anpassung an Säugetiere verwendete.
Auch hier befand sich Anthropic in einer unangenehmen Grauzone zwischen legitimer wissenschaftlicher Arbeit und Forschung, die theoretisch missbraucht werden könnte. Die leistungsfähigeren Claude-Systeme blockierten besonders riskante Anfragen nach Angaben des Unternehmens, weshalb hauptsächlich ältere beziehungsweise schwächere Modelle verwendet wurden. Anthropic kommt bei seiner eigenen Analyse zu dem Schluss, dass Claude den Forscher vorwiegend bei organisatorischen und wissenschaftlichen Arbeiten unterstützt habe. Der tatsächliche zusätzliche Nutzen der KI sei begrenzt gewesen. Die entsprechenden Konten wurden trotzdem gesperrt.
Rund 35 auffällige Forschungsprojekte in 30 Tagen geprüft
Wie schwierig die Grenze zwischen sinnvoller Wissenschaft und möglichem Missbrauch inzwischen geworden ist, zeigt eine weitere Zahl aus dem Bericht. Anthropic untersuchte einen Zeitraum von 30 Tagen und fand dabei rund 35 Forschungsprojekte, die mit Einrichtungen in Verbindung standen, die das Unternehmen als potenziell sicherheitsrelevant einstufte. Der überwiegende Teil davon war nach Anthropics Einschätzung normale zivile Forschung. Einige Projekte besaßen jedoch ein deutliches Dual-Use-Potenzial.
Und genau hier beginnt das eigentliche Problem: Eine KI kann nicht zuverlässig erkennen, ob ein Wissenschaftler versucht, einen Impfstoff zu entwickeln oder dieselben Informationen für komplett andere Zwecke verwenden möchte. Ein Prompt trägt schließlich kein kleines Schild mit „Keine Sorge, ich bin einer von den Guten“.
Claude wurde auch für Waffen und Cyberangriffe missbraucht
Biologische Forschung ist zudem nur ein Teil des aktuellen Threat Intelligence Reports. Anthropic beschreibt weitere Fälle, in denen Claude für Cyberangriffe, Überwachung, Einflussoperationen und Arbeiten an konventionellen Waffensystemen eingesetzt werden sollte.
Unter den untersuchten Akteuren befanden sich laut Anthropic mutmaßlich staatlich unterstützte Gruppen, kommerzielle Spyware-Anbieter, Kriminelle und politisch motivierte Nutzer. In mehreren Fällen wurden die Aktivitäten unterbrochen, Konten gesperrt und Informationen an Behörden oder andere Unternehmen weitergegeben. Besonders deutlich wird dabei, dass KI inzwischen nicht mehr nur zum Schreiben einer hübschen Phishing-Mail genutzt wird. Anthropic beobachtet zunehmend automatisierte Arbeitsabläufe, bei denen KI-Systeme größere Teile komplexer Operationen übernehmen.
Das Wettrüsten zwischen Fähigkeiten und Schutzmaßnahmen
Anthropic zieht aus den Vorfällen vor allem eine Konsequenz: Je leistungsfähiger die Modelle werden, desto schwieriger wird es, wissenschaftlich wertvolle Funktionen freizugeben und gleichzeitig gefährliche Nutzung zuverlässig zu verhindern.
Bei älteren Claude-Modellen ging das Unternehmen noch davon aus, dass deren Fähigkeiten nicht ausreichten, um erfahrene Wissenschaftler bei besonders riskanter biologischer Forschung wesentlich voranzubringen. Bei aktuellen Frontier-Modellen könne Anthropic diese Aussage nach eigenen Angaben nicht mehr mit derselben Sicherheit treffen. Deshalb wurden die Schutzmechanismen für biologische Anfragen verschärft.
Das dürfte einer der unangenehmsten Nebeneffekte immer leistungsfähigerer KI werden. Ein Modell, das einem Forscher bei der Entwicklung neuer Medikamente helfen kann, besitzt zwangsläufig Wissen, das auch weniger freundliche Zeitgenossen interessant finden.
Die entscheidende Frage wird deshalb zunehmend nicht sein, was eine KI kann – sondern wer sie wofür benutzen darf.
Torsten "Pixelaffe" Schmitt
Geboren 1976 im schönen Schwetzingen und nicht weggekommen. Ich habe somit den Aufstieg des Internet miterlebt und beruflich auch vorangetrieben. Hier schreibe ich über all die Technologien die mir auf meiner Reise durch das "Neuland" auffallen.
