Schutzmaßnahmen durchbrochen: Wurde Claude zur Zero-Day-Schmiede? Anthropic schweigt sich aus

Bypass bei Claude Code: Eine KI als Zero-Day-Schmiede? Anthropic ignoriert die Warnung eines Sicherheitsforschers bis heute.

700 Chat-Logs belegen die systematische Schutzumgehung

Warum ist der neue Claude Jailbreak relevant?

Die Illusion der AI Safety (?)

Anthropic ignorierte das Responsible Disclosure

Fazit: Nichts sehen, nichts hören, besser nicht reagieren?

Der Sicherheitsforscher Aria Akhavan konnte einen gravierenden Bypass (= Umgehung) der Schutzmechanismen im KI-Modell Claude nachweisen. Über das Entwickler-Tool Claude Code lässt sich die KI dazu bringen, automatisierte Zero-Day-Forschung und komplexe Bedrohungsanalysen beispielsweise in Open-Source-Software durchzuführen. Das sind aber Aktivitäten, die der Hersteller angeblich gar nicht mehr zulässt. Das Brisante daran: Trotz der privaten Offenlegung reagierte Anthropic bis heute nicht auf den Bug-Report.

In der IT-Sicherheits- und Hacking-Szene gehört das sogenannte „Jailbreaking“ von Sprachmodellen fast schon zum Alltag. Meist geht es dabei um simple Prompt-Tricks, um der KI das zu entlocken, worüber sie schweigen soll. Das sind mitunter schlüpfrige Texte oder unvollständige Exploit-Beispiele, mit denen Dritte wenig anfangen können. Doch was der Gründer des IT-Securityunternehmens Haikhavan Security nun offenlegte, spielt offenbar in einer ganz anderen Liga.

700 Chat-Logs belegen die systematische Schutzumgehung

Es geht keineswegs um eine zufällige Fehlantwort oder einen kurzen Ausrutscher (Glitch) eines Sprachmodells. Akhavan dokumentierte in über 700 Chat-Protokollen (inklusive Modell-IDs und Chat-Session-IDs), wie er Claude über das Entwickler-Tool Claude Code für tiefgehende Offensiv-Analysen einsetzen konnte.

Unter anderem übernahm das Modell die automatisierte Schwachstellensuche. Das heißt, die systematische Analyse von Open-Source- oder anderer Software auf bisher unbekannte Lücken (Zero-Days). „Threat Actors“ (Cyberkriminelle) sind an einem solchen Fachwissen sehr interessiert.

Möglich sind offenbar auch komplexe Bedrohungsanalysen. Gemeint ist das Erstellen von detaillierten Angriffs- und Risikoprofilen, wie sie normalerweise nur von erfahrenen Red Teams oder staatlichen Cyber-Akteuren durchgeführt werden.

Obwohl der Anbieter Anthropic verspricht, dass besonders mächtige KI-Modelle (wie das in den Logs referenzierte Modell Fable) durch strikte Filter vor dem Einsatz für........

© Tarnkappe