Nachdem Schauspieler Bryan Cranston Bedenken wegen der Erstellung von Deepfakes seiner Stimme und seines Abbilds auf der KI-Videoplattform Sora 2 von OpenAI geäußert hatte, hat das Unternehmen seine Sicherheitsvorkehrungen verschärft. Cranston wandte sich an seine Gewerkschaft SAG-Aftra, nachdem Nutzer sein Abbild ohne Zustimmung generieren konnten. OpenAI hat nun zugesagt, die Kontrollen zu verbessern und eine Opt-in-Regelung für die Nutzung von Stimmen und Abbildern zu implementieren, um die Rechte von Darstellern zu schützen.

Wichtige Erkenntnisse

OpenAI hat nach Druck von Bryan Cranston und der Schauspielergewerkschaft SAG-Aftra die Sicherheitsmaßnahmen für Sora 2 verschärft.
Es wird nun eine Opt-in-Regelung für die Nutzung von Stimmen und Abbildern von Personen geben.
Die Änderungen sollen Darsteller vor der missbräuchlichen Verwendung ihrer Identität durch KI schützen.

Bryan Cranstons Bedenken und OpenAIs Reaktion

Bryan Cranston äußerte sich "zutiefst besorgt" über die Möglichkeit, dass seine Stimme und sein Abbild auf Sora 2 ohne seine Zustimmung generiert werden konnten. Dies führte zu einer Zusammenarbeit zwischen OpenAI, SAG-Aftra, und großen Talentagenturen wie CAA und UTA. In einer gemeinsamen Erklärung dankte Cranston OpenAI für die "Verbesserung seiner Schutzmaßnahmen" und betonte die Bedeutung des Rechts von Darstellern, die Nutzung ihrer Stimme und ihres Abbilds selbst zu kontrollieren.

Neue Schutzmaßnahmen und Branchenreaktionen

OpenAI hat zugesagt, die "Schutzmaßnahmen" rund um die Replikation von Stimmen und Abbildern zu stärken, insbesondere wenn Personen nicht zugestimmt haben. Dies folgt auf Berichte, dass Sora 2 zunächst eine Opt-out- statt einer Opt-in-Regelung für öffentliche Figuren hatte. Die Schauspielergewerkschaft SAG-Aftra, vertreten durch ihren neuen Präsidenten Sean Astin, begrüßte die Änderungen und bezeichnete die Opt-in-Protokolle als "den einzigen Weg, Geschäfte zu machen". Die Gewerkschaft unterstützt auch den "NO FAKES Act", ein Gesetzesvorhaben im US-Kongress, das die Produktion und Verbreitung von KI-generierten Nachbildungen ohne Zustimmung verbieten soll.

Umgang mit historischen Figuren und zukünftige Entwicklungen

Sora 2 erlaubt grundsätzlich die Generierung von "historischen Figuren", definiert als berühmte und verstorbene Personen. OpenAI hat jedoch zugestimmt, auf Anfrage von Vertretern "kürzlich verstorbener" öffentlicher Figuren deren Abbilder von der Plattform zu blockieren. Dies geschah bereits im Fall von Martin Luther King Jr. nach Bitten seines Nachlasses. Die Entwicklungen rund um Sora 2 spiegeln die breitere Debatte über die ethischen und rechtlichen Implikationen von generativer KI im Unterhaltungssektor wider.