Midjourney plant die Einführung eines verbesserten Webtools, das es Nutzern ermöglichen wird, hochgeladene Bilder aus dem Internet mithilfe von Midjourneys generativer KI zu bearbeiten. Der CEO von Midjourney, David Holtz, gab bekannt, dass das aktualisierte Tool "Anfang nächster Woche" veröffentlicht wird und es den Nutzern auch ermöglichen wird, Objekte in Bildern neu zu texturieren, um deren Farben und Details gemäß den Beschreibungen zu "übermalen".

Wichtige Erkenntnisse

Midjourney wird ein neues Tool zur Bildbearbeitung mit KI einführen.
Die Funktion wird zunächst auf eine "Teilmenge der aktuellen Community" beschränkt sein.
Es gibt Bedenken hinsichtlich des Missbrauchs von KI-Tools, insbesondere in Bezug auf Urheberrechtsverletzungen und die Verbreitung von irreführenden Deepfakes.
Die Plattform hat Maßnahmen ergriffen, um die Verbreitung von Deepfakes zu begrenzen, insbesondere im Hinblick auf politische Figuren.

Die Bearbeitung bestehender Bilder mit KI ist in letzter Zeit ein heiß diskutiertes Thema geworden. Plattformen wie Meta haben Schwierigkeiten, Bilder, die mit KI-Tools bearbeitet wurden, von solchen zu unterscheiden, die vollständig von einem KI-Modell generiert wurden. Gleichzeitig haben Unternehmen wie Google leistungsstarke KI-Funktionen veröffentlicht, die keine visuelle Kennzeichnung aufweisen, dass Bilder KI-modifiziert wurden.

Im vergangenen Jahr verpflichtete sich Midjourney, den Digital Source Type-Eigenschaftsstandard der IPTC zu verwenden, ein technischer Standard, der Metadaten in Bildern einbettet, die angeben, dass sie KI-generiert sind. Allerdings ist das Unternehmen eine der wenigen großen KI-Plattformen, die die C2PA-Technologie, die die vollständige Herkunft eines Bildes verfolgt, nicht übernommen hat.

In einem Beitrag auf Midjourneys offiziellem Discord-Server erklärte Holtz, dass das verbesserte Bildbearbeitungstool zunächst auf eine "Teilmenge der aktuellen Community" beschränkt sein wird, mit verstärkter menschlicher Moderation sowie "neuen, fortschrittlicheren KI-Moderatoren", um Missbrauch zu verhindern.

"Ehrlich gesagt sind wir uns nicht sicher, wie wir die Bereitstellung dieser Funktion genau einschränken können", sagte er. Midjourney bittet die Community um Feedback über eine Umfrage, die zur Bestimmung der ersten Nutzer, die Zugang erhalten, verwendet wird.

Es gibt Risiken, diese Art von Bearbeitungstools ohne angemessene Sicherheitsvorkehrungen einzuführen. Sie könnten Urheberrechtsverletzungen in großem Maßstab erleichtern oder die Verbreitung von irreführenden Deepfakes fördern.

Deepfakes verbreiten sich rasant in sozialen Medien und erschweren es, Wahrheit von Desinformation zu unterscheiden. Jüngste gefälschte generative KI-Bilder von Zerstörung und menschlichem Leid überfluteten das Internet nach dem Hurrikan Helene. Laut Daten von Clarity, einer Firma zur Erkennung von Deepfakes, wurden in diesem Jahr 900 % mehr Deepfakes erstellt und veröffentlicht als im gleichen Zeitraum des Vorjahres. Dies sorgt verständlicherweise für Besorgnis. Eine aktuelle Umfrage von YouGov ergab, dass 85 % der Amerikaner besorgt über die Verbreitung irreführender Deepfakes im Internet sind.

In Ermangelung eines Bundesgesetzes, das Deepfakes kriminalisiert, haben mehr als 10 Bundesstaaten Gesetze gegen KI-gestützte Identitätsdiebstähle erlassen. Kaliforniens Gesetz, das derzeit ins Stocken geraten ist, würde das erste sein, das Richtern die Befugnis gibt, die Poster von Deepfakes anzuordnen, diese zu entfernen oder möglicherweise Geldstrafen zu verhängen.

Midjourney war nicht gerade ein leuchtendes Beispiel für verantwortungsvolle KI-Einführung. (Es wird wegen der angeblichen Verwendung urheberrechtlich geschützten Inhalts zur Schulung seiner generativen KI-Modelle verklagt.) In den letzten Monaten hat die Plattform jedoch Schritte unternommen, um die Verbreitung von Deepfakes zu begrenzen, einschließlich von Filtern für politische Figuren im Vorfeld der US-Präsidentschaftswahlen.