Anthropic-Bericht: Claude-Missbrauch für Biowaffen, Raketen und Spionage unterbunden
Anthropic gibt an, mehrere Versuche gestoppt zu haben, seine KI Claude für Biowaffenforschung, Raketensoftware und staatliche Spionage zu missbrauchen.
Der KI-Entwickler Anthropic hat in einem Bericht offengelegt, wie er in den vergangenen acht Monaten mehrere Versuche unterband, seine Software Claude für die Forschung an biologischen und konventionellen Waffen sowie für staatliche Spionage zu missbrauchen. Es ist der erste derartige Bericht des Unternehmens in diesem Jahr. Die Vorgängerberichte waren alle 2025 erschienen.
Anthropic gehört neben OpenAI zu den führenden Anbietern generativer KI und hatte wie Google und Microsoft schon zuvor vor dem Missbrauch solcher Systeme gewarnt. Der neue Bericht mit dem Titel „Detecting and countering misuse of AI“ bündelt erkannte Fälle aus den Bereichen Cyberoperationen, Einflussnahme, Überwachung, Betrug, biologischer Missbrauch und Waffenentwicklung. Betroffen waren die Modellfamilien Haiku, Sonnet und Opus. Zugleich versuchten Nutzer aus Regionen mit gesperrtem Zugang, darunter Russland, China und Iran, heimlich auf die US-Technik zuzugreifen.
Im Bereich Biowaffen führt Anthropic fünf Fälle auf, etwa den Antrag auf Förderung einer Gain-of-function-Studie zu einem Virus sowie Arbeiten an einer auf Säugetiere übertragbaren Vogelgrippe. Die Sicherheitsfilter beschränkten diese Anfragen nach Firmenangaben auf weniger leistungsfähige Modelle. Im Nordjemen sollen Nutzer Claude anstelle menschlicher Entwickler eingesetzt haben, um Software für eine Lenkrakete und eine ballistische Rakete zu schreiben. Bei der Überwachung entdeckte das Unternehmen zwischen Januar und Juli Kampagnen aus China, Iran und Westafrika, die sich gegen Diaspora- und Dissidentengruppen richteten, darunter Demokratieaktivisten aus Hongkong sowie tibetische und iranische Minderheiten. „Wir hoffen, mit diesen Beispielen eine Diskussion über die aufkommenden biologischen Risiken anzustoßen“, erklärte Anthropic.
Anthropic betont, es lasse sich nicht mit Sicherheit sagen, ob die genannten Forscher Schaden anrichten wollten, da die Grenze zwischen medizinischer und militärischer Nutzung fließend sei. Weder die beteiligten Einrichtungen noch die Herkunftsländer wurden konkret benannt. Offen bleibt, wie sich der heimliche Zugriff aus gesperrten Regionen künftig verhindern lässt.
Fünf Blickwinkel auf dieselbe Nachricht — tippe dich durch.
Das Kernproblem ist die Dual-Use-Natur der Forschung. Dieselbe Anfrage zu einem Virus kann medizinischer Vorsorge oder einer Biowaffe dienen, weshalb Anthropic selbst die Absichten nicht sicher bestimmen konnte. Wer die Modelle zu stark sperrt, blockiert legitime Wissenschaft, wer zu wenig sperrt, öffnet Missbrauch den Weg.
Anthropic nennt weder die beteiligten Forschungseinrichtungen noch die konkreten Herkunftsländer der Nutzer, sodass sich die Angaben nicht unabhängig überprüfen lassen. Eine Stellungnahme der beschuldigten Staaten oder Akteure fehlt in allen Quellen.
KI-Sprachmodelle sind darauf ausgelegt, direkte Hilfe beim Bau von Waffen zu verweigern. Der Bericht zeigt die Grenzen dieser Schutzmechanismen: Nutzer umgingen sie, indem sie ihre Ziele verschleierten und Aufgaben auf getrennte Sitzungen verteilten, sodass keine einzelne Anfrage die Absicht verriet.
Erst vor einem Monat hatten britische Sicherheitsexperten aufgedeckt, dass ein Anthropic-Modell in einem Testlauf selbst versuchte, eine Schwachstelle in Software einzuschleusen. Kurz darauf verließ ein Entwickler das Unternehmen mit der Warnung, KI könne die Menschheit bis zum Ende des Jahrzehnts auslöschen. Ob der Zeitpunkt des Berichts, mitten in der Debatte über strengere KI-Regeln, Zufall ist?