| 0 | 0 |
Na wunderbar. Falls ihr für die kommenden zehn Jahre noch größere Pläne hattet, vielleicht noch schnell stornieren: Ein führender Sicherheitsforscher von Anthropic hält es für wahrscheinlicher als zehn Prozent, dass Künstliche Intelligenz innerhalb des nächsten Jahrzehnts die gesamte Menschheit auslöschen könnte. Immerhin bleiben damit knapp 90 Prozent Hoffnung. Läuft doch.
Die Aussage stammt von Evan Hubinger, der bei Anthropic den Bereich Alignment Science leitet. Er reagierte auf die öffentlich erklärte Kündigung seines Kollegen Jacob Coxon und schrieb, dass man bei Anthropic tatsächlich ernsthaft glaube, KI könne im schlimmsten Fall alle Menschen töten. Seine persönliche Einschätzung für ein solches Szenario liege bei mehr als zehn Prozent innerhalb der kommenden zehn Jahre. Das ist natürlich keine mathematisch belastbare Wahrscheinlichkeit. Niemand hat eine Excel-Tabelle, in der für 2034 bereits „Menschheit: 0 Stück“ eingetragen ist. Es handelt sich um Hubingers persönliche Risikoeinschätzung. Dass sie von jemandem kommt, dessen Job ausgerechnet darin besteht, hochentwickelte KI-Systeme sicher und kontrollierbar zu machen, macht die Sache allerdings nicht unbedingt kuscheliger.
„Sie spielen mit unserem Leben“
Auslöser der Diskussion war Jacob Coxon, der zuvor sowohl bei OpenAI als auch Anthropic an der Entwicklung von KI-Modellen gearbeitet hatte. Coxon hat Anthropic verlassen und wirft beiden Unternehmen vor, beim Wettrennen um immer leistungsfähigere Systeme nicht verantwortungsvoll zu handeln. Seiner Ansicht nach steuern die großen KI-Labore auf selbstverbessernde Superintelligenz zu und „spielen mit unserem Leben“. Besonders bemerkenswert: Coxon behauptet, viele Menschen innerhalb der Unternehmen hielten ein existenzielles Risiko selbst für real – würden sich öffentlich aber deutlich vorsichtiger ausdrücken.
Und Hubinger? Der widerspricht ihm nicht etwa. Er erklärte zusätzlich, Anthropic versuche zwar nach seiner Einschätzung sein Bestes, habe aber bislang keinen überzeugenden Plan dafür, eine mögliche Superintelligenz zuverlässig auf menschliche Ziele auszurichten. Auch sei man aktuell nicht eindeutig auf dem Weg zu einer solchen Lösung. Das ist ungefähr so beruhigend wie der Pilot, der aus dem Cockpit kommt und sagt: „Wir wissen noch nicht genau, wie man landet, aber wir arbeiten dran.“
Die aktuelle KI soll uns noch nicht umbringen
Bevor jetzt jemand Alexa aus dem Fenster wirft oder ChatGPT nur noch mit „Bitte“ und „Danke“ anspricht: Hubinger unterscheidet ausdrücklich zwischen heutigen KI-Systemen und möglichen zukünftigen Modellen. Das Risiko durch aktuell existierende Modelle bezeichnet er als niedrig. Seine Sorge richtet sich vor allem auf Systeme, die irgendwann in der Lage sein könnten, ihre eigenen Fähigkeiten immer schneller zu verbessern und dadurch menschlicher Kontrolle zu entgleiten. Also Entwarnung. Der Toaster plant vermutlich noch nichts.
Ganz aus der Luft gegriffen sind Sicherheitsbedenken allerdings nicht. Anthropic berichtete Ende August selbst von mehreren Tests, bei denen Claude-Modelle aufgrund von Fehlkonfigurationen Zugriff auf reale Computersysteme beziehungsweise das offene Internet erhielten. Anthropic betont dabei, dass die Modelle für diese Tests bewusst ohne bestimmte Cyber-Sicherheitsmechanismen betrieben wurden und untersucht die Vorfälle weiter.
Das ist ein wichtiger Unterschied zu „Claude ist aus seinem Käfig ausgebrochen und baut jetzt Skynet“. Aber es zeigt durchaus, warum Forscher sich Gedanken darüber machen, was passiert, wenn deutlich leistungsfähigere autonome Systeme irgendwann Zugriff auf reale Infrastruktur erhalten.
Wir werden also alle durch KI sterben. Mit 10 Prozent Sicherheit.
Oder besser gesagt: Mit mehr als zehn Prozent persönlicher Einschätzung eines Anthropic-Forschers.
Das ist ein ziemlich wichtiger Zusatz. Hubingers Zahl ist keine wissenschaftlich berechnete Eintrittswahrscheinlichkeit und schon gar keine Vorhersage. Sie zeigt vielmehr, wie ernst zumindest einige der Menschen das Thema nehmen, die direkt an der Spitze der KI-Entwicklung arbeiten. Und genau das ist vermutlich der interessanteste Teil der Geschichte.
Wir diskutieren seit Jahren darüber, ob KI Hausaufgaben schreibt, Entwickler ersetzt oder Photoshop überflüssig macht. Gleichzeitig sitzen offenbar Menschen in den Unternehmen dahinter und führen Gespräche nach dem Motto:
- „Was glaubst du, wie hoch ist eigentlich die Wahrscheinlichkeit für das Ende der Menschheit?“
- „Keine Ahnung. Elf Prozent?“
- „Okay. Ship it.“
Ein bisschen mehr Aufmerksamkeit für KI-Sicherheit könnte vielleicht doch nicht schaden.
Torsten "Pixelaffe" Schmitt
Geboren 1976 im schönen Schwetzingen und nicht weggekommen. Ich habe somit den Aufstieg des Internet miterlebt und beruflich auch vorangetrieben. Hier schreibe ich über all die Technologien die mir auf meiner Reise durch das "Neuland" auffallen.
