Eine umfassende internationale Studie hat ergeben, dass führende KI-Assistenten in fast der Hälfte ihrer Antworten Nachrichten falsch darstellen. Die Forschung, an der 22 öffentlich-rechtliche Medienorganisationen aus 18 Ländern beteiligt waren, untersuchte über 3.000 Antworten auf Nachrichtenfragen von Diensten wie ChatGPT, Copilot, Gemini und Perplexity.

Wichtige Erkenntnisse

45 % der KI-Antworten enthielten mindestens ein signifikantes Problem.
81 % wiesen irgendeine Form von Mangel auf.
Ein Drittel der Antworten zeigte schwerwiegende Fehler bei der Quellenangabe.
20 % der Antworten enthielten sachliche Fehler.

Systematische Fehler bei KI-Nachrichten

Die von der European Broadcasting Union (EBU) und der BBC koordinierte Studie bewertete KI-Assistenten in 14 Sprachen hinsichtlich Genauigkeit, Quellenangabe und der Fähigkeit, Meinung von Fakten zu trennen. Die Ergebnisse sind alarmierend: Insgesamt wiesen 45 % der untersuchten KI-Antworten mindestens ein signifikantes Problem auf, während 81 % irgendeine Form von Mangel zeigten. Besonders besorgniserregend ist, dass ein Drittel der Antworten schwerwiegende Fehler bei der Quellenangabe aufwies, wie fehlende, irreführende oder falsche Zuschreibungen.

Unterschiede zwischen den Diensten

Google’s Gemini schnitt bei der Quellenangabe besonders schlecht ab, mit 72 % der Antworten, die signifikante Probleme aufwiesen. Im Vergleich dazu lagen alle anderen untersuchten Assistenten unter 25 %. Sachliche Fehler, wie veraltete Informationen, wurden in 20 % aller Antworten gefunden. Beispiele hierfür waren die falsche Angabe zu Gesetzesänderungen bei Einweg-Vapes durch Gemini oder die Meldung über den verstorbenen Papst Franziskus durch ChatGPT.

Vertrauensverlust und Forderungen nach Verantwortung

Da KI-Assistenten zunehmend traditionelle Suchmaschinen für Nachrichten ersetzen, besteht die Gefahr, dass das öffentliche Vertrauen untergraben wird. Jean Philip De Tender, Mediendirektor der EBU, warnte: "Wenn die Menschen nicht mehr wissen, was sie glauben sollen, vertrauen sie am Ende gar nichts mehr, und das kann die demokratische Teilhabe abschrecken." Die Studie fordert die KI-Unternehmen auf, mehr Verantwortung zu übernehmen und die Genauigkeit ihrer Antworten zu verbessern. Es wird auch gefordert, dass Regierungen und Regulierungsbehörden eingreifen, um die Integrität von Informationen im KI-Zeitalter zu gewährleisten. Eine Kampagne namens "Facts In: Facts Out" wurde ins Leben gerufen, die fordert, dass die Fakten, die in KI-Systeme eingespeist werden, auch korrekt wieder ausgegeben werden müssen.