Der Fall sexualisierter Gewalt gegen Moderatorin Collien Fernandes zeigt, wie gefährlich Deepfakes sind. Dabei handelt es sich um mithilfe von Künstlicher Intelligenz erzeugte oder manipulierte Bilder und Videos, die echten Aufnahmen täuschend ähnlich sehen. Doch nicht die Technik ist das Problem – sondern die Täter. Und die sind dieselben wie sonst auch.

Seit Jahren kämpfen Betroffene gegen sexualisierte Gewalt im Netz – gegen heimlich verbreitete Aufnahmen, manipulierte Bilder, gezielte Demütigung. Deepfakes verschärfen dieses Problem, weil sie die Hürde zur Erstellung solcher Inhalte drastisch senken und die Manipulation kaum noch zu erkennen ist. Laut Schätzungen gab es im Jahr 2023 rund 100.000 KI-generierte Videos im Netz, von denen 96 Prozent pornografisch und überwiegend gegen Frauen gerichtet sind .

Was früher technisches Know-how erforderte, ist heute mit wenigen Klicks möglich. Die Folge: mehr Inhalte, schnellere Verbreitung, größere Reichweite. Heute dürfte die Zahl KI-generierter Videos um ein Vielfaches höher sein.

Die KI handelt nicht eigenständig

Trotzdem ist es falsch, die Technologie zum Hauptproblem zu erklären. Denn das verschiebt die Verantwortung. KI handelt nicht eigenständig. Sie trifft keine Entscheidungen, sie verfolgt keine Absichten – zumindest heute noch. Sie wird eingesetzt.

Der Fall sexualisierter Gewalt gegen Moderatorin Collien Fernandes zeigt, wie gefährlich Deepfakes sind. Dabei handelt es sich um mithilfe von Künstlicher Intelligenz erzeugte oder manipulierte Bilder und Videos, die echten Aufnahmen täuschend ähnlich sehen. Doch nicht die Technik ist das Problem – sondern die Täter. Und die sind dieselben wie sonst auch.

Seit Jahren kämpfen Betroffene gegen sexualisierte Gewalt im Netz – gegen heimlich verbreitete Aufnahmen, manipulierte Bilder, gezielte Demütigung. Deepfakes verschärfen dieses Problem, weil sie die Hürde zur Erstellung solcher Inhalte drastisch senken und die Manipulation kaum noch zu erkennen ist. Laut Schätzungen gab es im Jahr 2023 rund 100.000 KI-generierte Videos im Netz, von denen 96 Prozent pornografisch und überwiegend gegen Frauen gerichtet sind.

Was früher technisches Know-how erforderte, ist heute mit wenigen Klicks möglich. Die Folge: mehr Inhalte, schnellere Verbreitung, größere Reichweite. Heute dürfte die Zahl KI-generierter Videos um ein Vielfaches höher sein.

Die KI handelt nicht eigenständig

Trotzdem ist es falsch, die Technologie zum Hauptproblem zu erklären. Denn das verschiebt die Verantwortung. KI handelt nicht eigenständig. Sie trifft keine Entscheidungen, sie verfolgt keine Absichten – zumindest heute noch. Sie wird eingesetzt.

© Handelsblatt