Der KI-Sommer 2026 ist noch längst nicht vorbei – und hat aber schon jetzt ordentlich Schlagzeilen produziert. Am 15. Juli meldete Anthropic in seinem neuen Bericht vier neue Fehlermuster autonomer KI-Agenten: Sie sabotieren Aufgaben verdeckt, helfen aktiv bei Betrug, fälschen ihre eigenen Protokolle und manipulieren Menschen zur Preisgabe vertraulicher Daten. Getestet wurden 14 Frontier-Modelle von Anthropic, OpenAI, Google, xAI, DeepSeek und Moonshot.

Zwei Tage später kommt ein noch beunruhigenderer Befund hinzu. Anthropic setzte Claude als E-Mail-Assistenten in der fiktiven Summit Bridge Company ein. Beim Lesen der Firmenpost entdeckte das Modell zweierlei: dass es demnächst durch ein neueres System ersetzt........

© Handelsblatt