Digitale Gewalt gegen Frauen nimmt zu, besonders durch Deepfakes und KI-Anwendungen wie Grok, während Gesetze oft hinterherhinken.

Spanien gilt als Vorreiter beim Schutz vor geschlechtsspezifischer Gewalt, mit umfassenden Maßnahmen und klaren gesetzlichen Regelungen.

Die EU beschließt ein Verbot von Deepfake-Pornos und Apps, die Menschen nackt zeigen, hat aber womöglich Schwierigkeiten, Strafen gegen US-Konzerne durchzusetzen.

Spanien: 460 Gerichte für geschlechtsspezifische Gewalt, Maßnahmenpaket seit 2004, „Nur ja heißt ja“ seit 2022

EU-Parlament: 569 Ja-Stimmen bei 720 Abgeordneten für Verbot von Deepfake-Pornos

Strafen für Konzerne: bis zu 6 Prozent des weltweiten Jahresumsatzes möglich

Digitale Gewalt gegen Frauen nimmt zu, besonders durch Deepfakes und KI-Anwendungen wie Grok, während Gesetze oft hinterherhinken.

Spanien gilt als Vorreiter beim Schutz vor geschlechtsspezifischer Gewalt, mit umfassenden Maßnahmen und klaren gesetzlichen Regelungen.

Die EU beschließt ein Verbot von Deepfake-Pornos und Apps, die Menschen nackt zeigen, hat aber womöglich Schwierigkeiten, Strafen gegen US-Konzerne durchzusetzen.

Spanien: 460 Gerichte für geschlechtsspezifische Gewalt, Maßnahmenpaket seit 2004, „Nur ja heißt ja“ seit 2022

EU-Parlament: 569 Ja-Stimmen bei 720 Abgeordneten für Verbot von Deepfake-Pornos

Strafen für Konzerne: bis zu 6 Prozent des weltweiten Jahresumsatzes möglich

Der Wirbel um Elon Musks KI-Anwendung Grok, die vor allem Frauen und Kinder auszieht und sexualisiert darstellt; Anfeindungen und Morddrohungen gegen Sportlerinnen via Social Media; eine Schauspielerin, die für Deepfake-Pornos und Sex-Chats missbraucht wurde – diese Fälle von digitaler Gewalt gegen Frauen, die zuletzt publik wurden, sind nur die Spitze eines Eisbergs, der schon sehr lange durchs Internet treibt und dabei immer größer wird. Manchmal kalbt er auch und generiert neue, noch ungustiösere Variationen von Delikten, die im schlimmsten Fall nicht einmal strafbar sind, weil der Gesetzgeber nicht am Schirm hatte, dass jemand sie begehen könnte. Oder weil sie zu lange nicht ernst genug genommen wurden.

Für dich interessant: Omnibus macht es nicht allen recht

Spanien, ein Vorreiter beim Gewaltschutz

Spätestens seit Schauspielerin Collien Fernandes, Tischtennis-Star Annette Kaufmann und Skispringerin Pola Bełtowska öffentlich über die Gewalt gesprochen haben, die ihnen digital angetan wurde, ist auch eine politische Debatte darüber entbrannt, wie man insbesondere Frauen online schützen kann. Länder wie Österreich und Deutschland hinken hier juristisch hinterher, während andere schon weiter sind.

Nicht ohne Grund hat Fernandes ihre Deepfake-Anzeige in ihrer Wahlheimat Spanien gemacht. Das Land, das einst ein massives Gewaltproblem hatte, ist seit einer umfassenden Strafrechtsreform ab 2004 zum europäischen Vorreiter beim Schutz von Frauen geworden. Gewalt von Partnern oder Ex-Partnern wird schärfer sanktioniert, es gibt umfangreiche Opferschutzprogramme mit Frauenhäusern und insgesamt 460 auf geschlechtsspezifische Gewalt spezialisierte Gerichte. Vertraut sich eine Frau der Polizei an, muss diese auch ohne offizielle Anzeige gegen den potenziellen Gewalttäter ermitteln und kann ein Annäherungsverbot mittels elektronischer Fußfessel durchsetzen, samt Alarmfunktion am Handy der Frau. Und Spanien setzt auf KI: Ein Algorithmus erstellt ein Gefährdungsprofil anhand einer Datenbank, in der seit 2007 sämtliche Daten zu geschlechtsspezifischer Gewalt – von Beleidigung bis Mord – gesammelt werden. Auch das Gesundheitssystem und die Schulen sind in die Früherkennung eingebunden. Außerdem gilt seit 2022: „Nur ja heißt ja.“ Sexuelle Handlungen ohne ausdrückliche Zustimmung werden grundsätzlich als Vergewaltigung eingestuft.

„Nudifier“-Apps verbieten

Wie dringend der Handlungsbedarf für die Gesetzgebung in Europa in Bezug auf den Schutz von Frauen und Kindern im Internet ist, zeigt die jüngste Abstimmung im EU-Parlament. Am 3. April läuft eine Ausnahmeregelung aus, die es Diensteanbietern ermöglicht, sexuellen Missbrauch von Kindern im Internet freiwillig aufzudecken. Am Donnerstag konnte keine Mehrheit dafür gefunden werden, die Frist zu verlängern, bis ein langfristiger Rechtsrahmen dazu steht. Zumindest haben nach dem Rat der 27 Staats- und Regierungschefs nun auch die EU-Abgeordneten mit überwältigender Mehrheit (569 Ja-Stimmen, 45 Nein-Stimmen, 23 Enthaltungen) für ein Verbot von „non-consensual intimate images“ gestimmt – also eine klare Absage an Deepfake-Pornos und „Nudifier“-Apps wie Grok, die Nacktbilder ohne Einverständnis der Betroffenen erstellen.

Die Tech-Milliardäre sind alle der Meinung, dass die EU komplett falsch liegt.

Dass dies zeitlich mit dem Fall Fernandes zusammenfällt, ist reiner Zufall, macht das Ganze aber umso brisanter. Der X-Chatbot Grok ist schon länger im Visier europäischer Behörden. Die EU-Kommission, die X bereits wegen des irreführenden blauen Verifizierungshäkchens (das nicht mehr echte Accounts bekommen, sondern nur noch zahlende) zu einer Strafe von 120 Millionen Euro verdonnert hat, prüft gerade Maßnahmen gegen Grok. Die Werkzeuge dafür, der „Digital Services Act“ und der „Artificial Intelligence Act“, sind als Verordnungen in der gesamten EU unmittelbar anwendbar und müssen nicht erst durch nationale Gesetze umgesetzt werden.

Gigantische Strafen – wer setzt sie durch?

Ein großes Problem bleibt allerdings: Die EU legt sich hier mit Konzernen an, die in den USA sitzen. Spätestens seit Donald Trump dort Präsident ist, werden in Übersee europäische Gesetze und Regelwerke bestenfalls als unverbindliche Empfehlungen gesehen. Und selbst wenn sich X und andere Dienste den Anschein geben, sich an die EU-Regeln zu halten, werden Schlupflöcher schamlos ausgenutzt. „Die Tech-Milliardäre rund um Trump sind allesamt der Meinung, dass die EU mit ihren Gesetzen hier komplett falsch liegt“, sagt dazu Nikolaus Forgo, Professor für Technologie- und Immaterialgüterrecht an der Universität Wien. Es wäre also eine Überraschung, sollten etwa Musk und seine ehemalige X-Geschäftsführerin Linda Jakarino tatsächlich einer Vorladung der französischen Behörden Folge leisten und am 20. April zu einer Anhörung in Paris zum Thema Grok erscheinen. Aber was passiert, wenn sie nicht kommen? Wahrscheinlich nicht viel.

Eigentlich müssten sich Musk & Co. ja vor der EU fürchten, drohen doch ihren Unternehmen bei Verstößen Strafen von bis zu sechs Prozent des weltweiten Jahresumsatzes – ähnlich wie bei der Datenschutzgrundverordnung (DSGVO), wo die bisher höchste verhängte Strafe 1,2 Milliarden Euro betragen hat. Gigantische Beträge also, die wirklich wehtun könnten. Wenn sie denn bezahlt würden. Denn rechtskräftig werden die Strafen erst am Ende von jahrelangen Prozessen. Und aus Sicht der Internet-Riesen ist es wahrscheinlich ökonomischer, die EU-Gerichte möglichst lange hinzuhalten und Milliardenstrafen in Kauf zu nehmen, „weil sie in der Zwischenzeit ein Vielfaches davon eingenommen haben“, analysiert Forgo. Außerdem müssten die Strafen erst einmal eingetrieben werden. Viel Spaß bei Konzernen, die ihren Sitz außerhalb Europas haben und europäisches Recht nicht einmal anerkennen. Und denen offensichtlich Profit wichtiger ist als der Schutz von Frauen im Internet.

Gute Nachrichten findest du jede Woche im Newsletter.

Der Newsletter mit den guten Nachrichten: Kleine Geschichten über Fortschritte und Erfolg.

Dir hat dieser Beitrag besonders gut gefallen, dir ist ein Fehler aufgefallen oder du hast Hinweise für uns - sag uns deine Meinung unter feedback@wienerzeitung.at. Willst du uns helfen, unser gesamtes Produkt besser zu machen? Dann melde dich hier an.

Nikolaus Forgo ist Professor für Technologie- und Immaterialgüterrecht an der Universität Wien.

„Digital Services Act“

„Artificial Intelligence Act“

EU-Geldbuße von 120 Millionen Euro gegen X

EU-Kommission zu Grok und X

„Digital Omnibus on AI “

Abstimmung über Verbot von „Nudifier“-Apps

Verstöße gegen das EU-Gesetz über digitale Dienste

Von der Unmöglichkeit, eine Frau zu sein

„Der Täter wurde geschützt, nicht ich“

„Wenn ich einen guten Arsch sehe, muss ich draufhauen“

Gewaltschutz beginnt in der Nachbarschaft

Podcast: Was los? Männer, Machtmissbrauch und Manosphere

Das Thema in anderen Medien

Das Parlament: So bekämpft Spanien Gewalt gegen Frauen

Kurier: Die Lücke bei Deepfake-Pornos: Kein eigener Straftatbestand

Bild: Fake-Pornos? „Das ist heute eine Sache von Sekunden“

SWR: „Geschildert, wie ich umgebracht werde“: Tischtennis-Star Annett Kaufmann berichtet von Morddrohungen

Die Zeit: Polnische Skispringerin klagt über Anfeindungen in sozialen Medien

ZDF: EU wirft US-Plattformen und Apps mangelhaften Kinderschutz vor

ZDF: Musks X: EU verhängt Millionenstrafe - Kritik aus Washington

ORF: US-Gericht: Plattformen wegen Social-Media-Sucht haftbar

© Wiener Zeitung