KI-Jailbreak: Versteckte Bildmanipulationen überlisten Chatbots

KI-Jailbreak mit versteckten Bildmanipulationen: Unsichtbare Pixel täuschen Chatbots und umgehen deren Schutzmechanismen.

KI-Jailbreak per Bild: Unsichtbare Pixel statt ausgeklügelter Prompts

JaiLIP optimiert den Angriff automatisch

JaiLIP verdoppelt nahezu problematische KI-Antworten

KI-Jailbreak eröffnet neue Angriffsfläche für Unternehmen

Eine neue Angriffsklasse für multimodale KI

Ein Forschungsteam der Florida International University (FIU) präsentierte auf der ICMLA-Konferenz mit JaiLIP eine neuartige Angriffstechnik. Der KI-Jailbreak demonstriert, wie sich multimodale KI mit für Menschen kaum wahrnehmbaren Pixeländerungen täuschen lässt. Das manipulierte Bild kann moderne KI-Systeme dazu bringen, ihre eigenen Sicherheitsregeln zu missachten. Ein Risiko, das besonders Unternehmen im Blick behalten sollten.

Was für Menschen wie ein gewöhnliches Foto aussieht, kann für eine Künstliche Intelligenz zum trojanischen Pferd werden. Hadi Amini, außerordentlicher Professor an der Knight Foundation School of Computing and Information Sciences der Florida International University untersuchte gemeinsam mit seinem wissenschaftlichen Mitarbeiter Md Jueal Mia, wie manipulierte Bilder bestimmte KI-Systeme „knacken“ und ihre eingebauten Schutzmechanismen überwinden können.

Dabei haben sie eine Angriffstechnik namens JaiLIP entwickelt, die moderne Vision-Language-Modelle allein durch minimale, für das menschliche Auge unsichtbare Bildveränderungen dazu bringt, ihre eigenen Sicherheitsvorgaben zu ignorieren. Damit rücken manipulierte Bilder erneut als Angriffsvektor in den Fokus. Neu an dieser Methode JaiLIP ist dabei die Qualität und Wirksamkeit.

Bereits vor der aktuellen Studie zeigten wissenschaftliche Arbeiten, dass sich Vision-Language-Modelle (VLMs) auch über manipulierte Bilder angreifen lassen. Anschließend untersuchten Forscher gradientenbasierte Image-Jailbreaks und deren Übertragbarkeit auf andere Modelle. Allerdings funktionierten solche Angriffe im Allgemeinen nur gegen das Modell, für das sie entwickelt wurden. Sie übertrugen sich schlecht auf andere VLMs.

Diesen Ansatz verbesserte allerdings diese Studie aus dem Jahr 2025. Der Algorithmus berechnet dabei minimale Pixeländerungen. Diese sind kaum sichtbar und erzielen dennoch eine hohe Erfolgsquote. Die Autoren weisen darauf hin, dass ihre Methode frühere bildbasierte Verfahren sowohl hinsichtlich der Wirksamkeit als auch der Unauffälligkeit der Manipulationen übertrifft. Aufmerksamkeit erhielt die Forschungsarbeit nach ihrer Veröffentlichung in IEEE Xplore im April 2026 sowie der anschließenden Pressemitteilung der Florida International University Ende Juni. Pressefotos und Medienmaterial sind auf Dropbox einsehbar.

KI-Jailbreak per Bild: Unsichtbare Pixel statt ausgeklügelter Prompts

Bei Prompt-Jailbreaks versuchen potenzielle Angreifer, Sprachmodelle mit geschickt formulierten Eingaben dazu zu bewegen, interne Sicherheitsregeln zu umgehen. Die neue Angriffsmethode verfolgt dabei einen völlig anderen Ansatz. Statt Texte zu manipulieren, verändern die Forscher hierbei einzelne Pixel eines Bildes, sogenannte Perturbationen. Diese bleiben für........

© Tarnkappe