Ein Teenager aus New Jersey hat eine bedeutende Klage gegen das Unternehmen eingereicht, das hinter einem KI-Tool zur "Kleiderentfernung" steht. Das Tool soll ein gefälschtes Nacktbild der Klägerin erstellt haben, was weitreichende Fragen zur Haftung von KI-Entwicklern und zum Schutz der Privatsphäre aufwirft.

Wichtige Erkenntnisse

Ein 17-jähriges Mädchen verklagt den Betreiber der KI-App "ClothOff".
Die Klage fordert die Löschung aller gefälschter Bilder und die Einstellung der Nutzung zur KI-Schulung.
Der Fall könnte nationale Präzedenzfälle für die Haftung von KI-Unternehmen schaffen.
Gesetzgeber reagieren auf die Zunahme von KI-generierten sexuellen Inhalten mit neuen Gesetzen.

Die Entstehung gefälschter Bilder

Als die Klägerin 14 Jahre alt war, postete sie Fotos von sich in sozialen Medien. Ein Mitschüler nutzte die KI-Anwendung "ClothOff", um Kleidung von einem ihrer Bilder zu entfernen und ihr Gesicht beizubehalten, was das Bild täuschend echt aussehen ließ. Das manipulierte Bild verbreitete sich schnell in Gruppenchats und sozialen Netzwerken.

Die Klage und ihre Forderungen

Die nun 17-jährige Klägerin verklagt "AI/Robotics Venture Strategy 3 Ltd.", das Unternehmen hinter ClothOff. Die Klage, die von einem Professor der Yale Law School, mehreren Studenten und einem Prozessanwalt eingereicht wurde, fordert die Löschung aller gefälschten Bilder, die Einstellung ihrer Nutzung zur KI-Modellschulung und die Entfernung des Tools aus dem Internet. Darüber hinaus fordert sie finanzielle Entschädigung für emotionalen Schaden und den Verlust der Privatsphäre.

Der Kampf gegen Deepfake-Missbrauch

Mehr als 45 US-Bundesstaaten haben Gesetze erlassen oder vorgeschlagen, die die Erstellung oder Verbreitung von Deepfakes ohne Zustimmung unter Strafe stellen. In New Jersey können die Erstellung oder Verbreitung täuschender KI-Medien zu Gefängnisstrafen und Geldstrafen führen. Auf Bundesebene verlangt der "Take It Down Act" von Unternehmen, nicht einvernehmliche Bilder innerhalb von 48 Stunden nach einer gültigen Aufforderung zu entfernen. Trotz neuer Gesetze stehen Staatsanwälte vor Herausforderungen, wenn Entwickler im Ausland ansässig sind oder versteckte Plattformen nutzen.

Warum dieser Fall ein nationaler Präzedenzfall sein könnte

Experten glauben, dass dieser Fall die Art und Weise, wie Gerichte KI-Haftung betrachten, neu gestalten könnte. Richter müssen entscheiden, ob KI-Entwickler verantwortlich sind, wenn ihre Tools missbraucht werden, und ob die Software selbst als Instrument des Schadens betrachtet werden kann. Der Fall wirft auch die Frage auf, wie Opfer Schaden nachweisen können, wenn kein physischer Akt stattgefunden hat, der Schaden aber real ist.

Ist ClothOff noch verfügbar?

Berichten zufolge ist ClothOff in einigen Ländern, wie dem Vereinigten Königreich, nicht mehr zugänglich. In anderen Regionen, einschließlich der USA, scheint die Webplattform des Unternehmens jedoch weiterhin erreichbar zu sein und wirbt weiterhin mit Tools, die "Kleidung von Fotos entfernen". Auf seiner Website enthält das Unternehmen einen Haftungsausschluss, der die ethischen Aspekte seiner Technologie anspricht und Nutzer zu Verantwortung und Respekt für die Privatsphäre anderer aufruft.

Warum diese KI-Klage für jeden online wichtig ist

Die Fähigkeit, gefälschte Nacktbilder aus einfachen Fotos zu erstellen, bedroht jeden mit einer Online-Präsenz. Teenager sind besonders gefährdet, da KI-Tools einfach zu bedienen und zu teilen sind. Die Klage lenkt die Aufmerksamkeit auf den emotionalen Schaden und die Demütigung, die durch solche Bilder verursacht werden. Eltern und Pädagogen sind besorgt über die schnelle Verbreitung dieser Technologie in Schulen, und Gesetzgeber stehen unter Druck, Datenschutzgesetze zu modernisieren. Unternehmen, die solche Tools hosten oder ermöglichen, müssen nun strengere Schutzmaßnahmen und schnellere Entfernungssysteme in Betracht ziehen.