Eine umfassende internationale Studie, an der 22 öffentlich-rechtliche Medienorganisationen beteiligt waren, hat ergeben, dass führende KI-Chatbots Nachrichten und Informationen mit einer alarmierenden Häufigkeit von 45 % falsch darstellen. Diese Mängel sind systemisch, sprach- und länderübergreifend und gefährden das Vertrauen der Öffentlichkeit in digitale Informationsquellen.

Wichtige Erkenntnisse

45 % der KI-Antworten enthielten mindestens ein signifikantes Problem.
31 % wiesen schwerwiegende Probleme bei der Quellenangabe auf.
20 % enthielten gravierende sachliche Fehler.
Google Gemini schnitt mit 72 % signifikanten Quellenproblemen am schlechtesten ab.

Studie deckt systemische Mängel auf

Die von der Europäischen Rundfunkunion (EBU) koordinierte und von der BBC angeführte Untersuchung analysierte über 3.000 Antworten von KI-Assistenten wie ChatGPT, Microsoft Copilot, Google Gemini und Perplexity AI. Journalisten bewerteten die Antworten anhand von Kriterien wie Genauigkeit, Quellenangabe, Kontextualisierung und der Unterscheidung zwischen Fakten und Meinungen. Die Ergebnisse zeigen, dass fast die Hälfte aller Antworten mindestens ein erhebliches Problem aufwies. Insbesondere wurden 31 % der Antworten mit schwerwiegenden Quellenproblemen beurteilt, während 20 % gravierende sachliche Fehler enthielten.

Beispiele für Fehlleistungen

Die Studie dokumentierte konkrete Beispiele für Ungenauigkeiten. So wurde Olaf Scholz fälschlicherweise als deutscher Bundeskanzler genannt, obwohl Friedrich Merz dieses Amt bereits einen Monat zuvor übernommen hatte. Ein weiteres Beispiel war die Nennung von Jens Stoltenberg als NATO-Generalsekretär, obwohl Mark Rutte die Rolle bereits innehatte. Auch bei der Frage nach dem Papst lieferten ChatGPT, Copilot und Gemini falsche Antworten, indem sie Papst Franziskus nannten, obwohl Papst Leo XIV. das korrekte Oberhaupt der katholischen Kirche war.

Wachsende Nutzung und Vertrauensverlust

KI-Assistenten werden zunehmend zur Informationsbeschaffung genutzt. Laut dem Digital News Report 2025 des Reuters Institute verwenden 7 % der Online-Nachrichtenkonsumenten KI-Chatbots für Nachrichten, wobei dieser Anteil bei den unter 25-Jährigen auf 15 % steigt. Die Forscher warnen, dass diese systemischen Fehler das Vertrauen der Öffentlichkeit untergraben könnten. „Wenn die Menschen nicht wissen, was sie glauben sollen, vertrauen sie am Ende gar nichts mehr, und das kann die demokratische Teilhabe abschrecken“, erklärte Jean Philip De Tender, stellvertretender Generaldirektor der EBU.

Forderungen nach Maßnahmen

Die beteiligten Medienorganisationen fordern von Regierungen und KI-Unternehmen dringendes Handeln. Sie drängen auf die Durchsetzung bestehender Gesetze zur Informationsintegrität und auf eine unabhängige Überwachung von KI-Assistenten. Zudem wurde die Kampagne „Facts In: Facts Out“ ins Leben gerufen, die KI-Unternehmen auffordert, mehr Verantwortung für die Nachrichtenintegrität ihrer Produkte zu übernehmen. Die Organisationen haben auch ein „News Integrity in AI Assistants Toolkit“ veröffentlicht, um die Qualität der Antworten zu verbessern und die Medienkompetenz zu fördern.