Während wichtiger Sportereignisse, insbesondere der Baseball-Playoffs, sehen sich Fans einer Flut von gefälschten KI-generierten Inhalten auf Facebook gegenüber. Ein klickköderisches Netzwerk aus Südostasien nutzt das Interesse an der World Series, um Klicks und damit Einnahmen zu generieren. Diese Seiten ahmen echte Fan-Konten nach, leiten aber zu werbeüberladenen Websites mit KI-generierten Artikeln weiter.

Wichtige Erkenntnisse

Gefälschte KI-Inhalte werden über Facebook-Seiten verbreitet, die echte Fan-Konten imitieren.
Ein Netzwerk aus Südostasien, hauptsächlich Vietnam, steckt hinter der Verbreitung.
Ziel ist es, durch Klicks auf werbelastige Websites Geld zu verdienen.
Diese Taktik kann auch zur Verbreitung von Desinformation und zum Verkauf von Konten genutzt werden.
Meta untersucht die betroffenen Seiten, während die Community Notes zur Kennzeichnung von Falschinformationen in den USA eingeführt wurden.

Die Masche der Klickköder-Netzwerke

Seiten mit Namen wie "Dodgers Dynasty" und "Yankee Nation" täuschen Fans, indem sie authentische Fan-Accounts nachahmen. Sie verlinken jedoch zu Websites, die mit Werbung überladen sind und gefälschte, KI-generierte Artikel enthalten, deren einziger Zweck darin besteht, Klicks zu generieren und den Betreibern Einnahmen zu verschaffen. Journalist Craig Silverman erklärt, dass solche Operationen alles tun werden, was funktioniert, um Geld zu verdienen.

Die Gefahr hinter harmlosen Inhalten

Experten warnen, dass diese Strategie, Nutzer anzulocken, manchmal mit harmlosen Inhalten, dazu genutzt werden kann, Konten aufzubauen, die später für bösartigere Desinformationskampagnen verkauft oder vermietet werden. Während Lügen, die Wut hervorrufen sollen, wie falsche Behauptungen über Preiserhöhungen bei Spielen des einzigen kanadischen MLB-Teams, der Toronto Blue Jays, schon lange zur Steigerung des Engagements in sozialen Medien genutzt werden, ziehen auch scheinbar harmlose Beiträge Tausende von Likes an. Ein Beispiel ist ein KI-Bild von Shohei Ohtani, das ihn mit Welpen zeigt und behauptet, er habe ein Hundeheim für 5 Millionen Dollar gebaut.

KI als Werkzeug für Fälscher

Luke Arrigoni, Gründer von Loti, einem KI-Tool zum Schutz der Reputation von Persönlichkeiten des öffentlichen Lebens, stellt fest, dass Betrüger immer besser darin werden, Geschichten zu erzählen. KI ermöglicht es den Erstellern falscher Narrative, Beiträge leichter zu erstellen, die echt erscheinen.

Untersuchung durch Meta

AFP hat Meta eine Liste von 32 Facebook-Seiten vorgelegt, die baseballbezogene, gefälschte KI-Inhalte verbreiten, und nachgefragt, ob die Falschinformationen gegen die Regeln der Plattform verstoßen. Die Seiten hatten zusammen 248.000 Follower. Ein Meta-Sprecher erklärte, dass die Seiten und Administratoren untersucht und Maßnahmen gegen Verstöße ergriffen würden. Die Transparenzdaten der Seiten zeigen, dass die Konten aus Südostasien, hauptsächlich Vietnam, verwaltet werden, obwohl US-Telefonnummern und Adressen angegeben sind.

Globale Reichweite und mangelnde Kennzeichnung

Das Netzwerk zielt nicht nur auf Baseballfans ab, sondern auch auf Anhänger von American Football, Eishockey und Basketball. Die Taktiken beschränken sich nicht auf englischsprachige Inhalte; AFP hat Falschinformationen auf Seiten aufgedeckt, die sich an serbische Tennis-Fans und niederländische Formel-1-Anhänger von Max Verstappen richten. In den USA hat Meta die Kennzeichnung durch Faktenprüfer durch das Community Notes-Programm ersetzt, das es Nutzern ermöglicht, falsche Inhalte zu markieren. AFP fand jedoch keine sichtbaren Hinweise auf den untersuchten Beiträgen, obwohl einige Nutzer in Seitenbewertungen vor gefälschten Inhalten warnten.