Die Ära der KI-gestützten Online-Gewalt ist angebrochen und verändert die Bedrohungslandschaft für Frauen im öffentlichen Sektor weltweit. Eine neue Studie zeigt, dass generative KI zunehmend eingesetzt wird, um Frauen, die sich für Demokratie und Menschenrechte einsetzen, zum Schweigen zu bringen und zu belästigen.

Wichtige Erkenntnisse

Fast ein Viertel der Frauen, die online Gewalt in ihrem Beruf erfahren, identifiziert Missbrauch, der durch KI-Tools generiert oder verstärkt wurde.
Die Hürden für die Erstellung von schädlichen Inhalten wie Deepfakes und Desinformationen sind durch frei zugängliche KI-Tools drastisch gesunken.
Die Grenze zwischen Online-Gewalt und realen Angriffen verschwimmt zunehmend, was zu physischer Einschüchterung und strukturellen Bedrohungen für die Meinungsfreiheit führt.

KI als Waffe gegen Frauen

Eine globale Umfrage unter 641 Frauen aus 119 Ländern, darunter Journalistinnen, Aktivistinnen und Menschenrechtsverteidigerinnen, ergab alarmierende Ergebnisse. Fast ein Viertel (24 %) der Befragten, die online Gewalt in ihrem Beruf erlebten, berichteten von Missbrauch, der durch KI-Tools generiert oder verstärkt wurde. Besonders betroffen sind Frauen, die als Schriftstellerinnen oder öffentliche Kommunikatorinnen tätig sind (30,3 %), gefolgt von Menschenrechtsverteidigerinnen und Aktivistinnen (28,2 %) sowie Journalistinnen (19,4 %).

Seit der Einführung frei zugänglicher generativer KI-Tools wie ChatGPT Ende 2022 sind die Kosten und der Aufwand für die Erstellung von sexuell expliziten Deepfakes, geschlechtsspezifischer Desinformation und anderer Formen geschlechtsspezifischer Online-Gewalt erheblich gesunken. Gleichzeitig hat sich die Verbreitungsgeschwindigkeit intensiviert. Dies ermöglicht es jedem mit einem Smartphone und Zugang zu einem KI-Chatbot, schnell schädliche, frauenfeindliche Inhalte zu generieren, die dann durch Social-Media-Algorithmen weiter verbreitet werden.

Die Verbindung zwischen Online- und Offline-Gewalt

Die Studie unterstreicht eine besorgniserregende Entwicklung: Die Grenze zwischen Online-Gewalt und realen Angriffen verschwimmt. 40,9 % der befragten Frauen berichteten von physischen Angriffen, Stalking oder Belästigungen, die sie auf Online-Gewalt zurückführten. Bei Journalistinnen hat sich die Zahl derer, die von Offline-Angriffen im Zusammenhang mit Online-Gewalt betroffen sind, innerhalb von fünf Jahren mehr als verdoppelt (von 20 % auf 42 %). Diese Entwicklung stellt eine strukturelle Bedrohung für die Meinungsfreiheit und die Demokratie dar, insbesondere in Zeiten zunehmenden Autoritarismus, in denen Online-Gewalt und vernetzte Frauenfeindlichkeit als Werkzeuge zur Untergrabung der Demokratie eingesetzt werden.

Lösungsansätze und Forderungen

Die Ergebnisse der Studie verdeutlichen einen dringenden zweifachen Handlungsbedarf. Einerseits werden stärkere Werkzeuge zur Identifizierung, Überwachung, Meldung und Abwehr von KI-gestützten Angriffen benötigt. Andererseits müssen rechtliche und regulatorische Rahmenbedingungen geschaffen werden, die Plattformen und KI-Entwickler dazu verpflichten, den Missbrauch ihrer Technologien zur Untergrabung von Frauenrechten zu verhindern. Es bedarf kreativer technologischer Interventionen, die auf dem Prinzip "Human Rights by Design" basieren, sowie stärkerer rechtlicher und politischer Reaktionen, erhöhter Rechenschaftspflicht von Plattformen und besserer Sicherheits- und Unterstützungssysteme für Frauen im öffentlichen Leben.