Eine bahnbrechende internationale Studie hat aufgedeckt, dass führende KI-Assistenten in fast der Hälfte ihrer Antworten auf Nachrichtenfragen ungenaue oder irreführende Informationen liefern. Diese Ergebnisse werfen ernste Bedenken hinsichtlich der Zuverlässigkeit von KI als Nachrichtenquelle auf und könnten das Vertrauen der Öffentlichkeit untergraben.

Wichtige Erkenntnisse

45 % der KI-Antworten enthielten mindestens ein signifikantes Problem.
81 % aller Antworten wiesen irgendeine Form von Mangel auf.
Fehler bei der Quellenangabe waren das häufigste Problem (31 %).
Google Gemini zeigte die meisten Probleme, insbesondere bei der Quellenangabe.

Die Studie im Detail

Die von der Europäischen Rundfunkunion (EBU) und der BBC durchgeführte Forschung untersuchte über 3.000 Antworten von KI-Assistenten wie ChatGPT, Copilot, Gemini und Perplexity auf Nachrichtenfragen in 14 Sprachen. Die Auswertung erfolgte durch 22 öffentlich-rechtliche Medienorganisationen aus 18 Ländern.

Die Ergebnisse sind alarmierend: 45 % der untersuchten Antworten enthielten mindestens ein signifikantes Problem, während sogar 81 % irgendeine Art von Mangel aufwiesen. Besonders besorgniserregend ist, dass 31 % der Antworten gravierende Fehler bei der Quellenangabe aufwiesen, wie fehlende, irreführende oder falsche Zuordnungen. Auch die Genauigkeit war ein Problem, wobei 20 % der Antworten wesentliche Fehler enthielten, darunter veraltete Informationen oder sogenannte "Halluzinationen" – also erfundene Fakten.

Unterschiede zwischen den KI-Assistenten

Die Leistung der verschiedenen KI-Assistenten variierte erheblich. Google Gemini schnitt am schlechtesten ab, mit signifikanten Problemen in 76 % seiner Antworten, wobei 72 % davon auf fehlerhafte Quellenangaben zurückzuführen waren. Die anderen untersuchten Assistenten lagen bei den Gesamtproblemen unter 37 % und bei den Quellenangaben unter 25 %.

Auswirkungen auf das öffentliche Vertrauen

Angesichts der zunehmenden Nutzung von KI-Assistenten als Ersatz für traditionelle Suchmaschinen für Nachrichten, äußert die EBU Bedenken hinsichtlich des öffentlichen Vertrauens. "Wenn die Menschen nicht mehr wissen, was sie glauben sollen, vertrauen sie am Ende gar nichts mehr, und das kann die demokratische Teilhabe abschrecken", erklärte Jean Philip De Tender, Mediendirektor der EBU. Die Studie fordert die KI-Unternehmen auf, Verantwortung zu übernehmen und die Qualität ihrer Antworten auf Nachrichtenfragen zu verbessern.

Was kann getan werden?

Die Forscher betonen die Notwendigkeit, dass KI-Entwickler diese Probleme ernst nehmen und die Genauigkeit und Quellenangabe ihrer Produkte schnell verbessern müssen. Darüber hinaus wird gefordert, dass Verlage mehr Kontrolle darüber erhalten, wie ihre Inhalte von KI-Assistenten genutzt werden. Die Studie legt nahe, dass sowohl Branchenlösungen als auch regulatorische Maßnahmen erforderlich sind, um die Zuverlässigkeit von KI im Nachrichtenbereich zu gewährleisten. Gleichzeitig sollten Nutzer die aktuellen Einschränkungen dieser Technologie verstehen und Informationen stets kritisch prüfen.