Meta, das Mutterunternehmen von Facebook und Instagram, führt neue elterliche Kontrollfunktionen ein, um die Interaktionen von Teenagern mit künstlicher Intelligenz (KI) auf seinen Plattformen besser zu schützen. Diese Maßnahmen sollen die Sicherheit von Minderjährigen im Umgang mit KI-Chatbots verbessern, insbesondere angesichts wachsender Bedenken und Kritik bezüglich der Auswirkungen sozialer Medien auf Kinder.

Wichtige Neuerungen

Eltern können Ein-zu-eins-Chats von KI-Charakteren mit ihren Kindern deaktivieren.
Standardmäßig werden Teenager-Konten auf Instagram auf PG-13-Inhalte beschränkt.
Eltern erhalten Einblicke in die KI-Gespräche ihrer Kinder, ohne vollständigen Zugriff auf die Chats.

Umfassendere KI-Kontrollen für Eltern

Meta hat angekündigt, dass ab Anfang nächsten Jahres neue elterliche Kontrollfunktionen für die Interaktionen von Kindern mit KI-Chatbots zur Verfügung stehen werden. Dazu gehört die Möglichkeit, ein-zu-eins-Chats mit KI-Charakteren vollständig zu deaktivieren. Eltern können auch spezifische Chatbots blockieren, wenn sie nicht alle Chats mit KI-Figuren ausschalten möchten. Darüber hinaus erhalten Eltern Einblicke in die Themen, über die ihre Kinder mit KI-Charakteren sprechen, auch wenn ihnen kein vollständiger Zugriff auf die Chatverläufe gewährt wird.

Der Meta-KI-Assistent selbst wird weiterhin verfügbar sein, um hilfreiche und lehrreiche Informationen anzubieten. Hierbei sollen standardmäßig altersgerechte Schutzmaßnahmen greifen, um die Sicherheit von Teenagern zu gewährleisten.

Reaktion auf Kritik und Bedenken

Diese neuen Maßnahmen erfolgen vor dem Hintergrund anhaltender Kritik an Meta wegen der potenziellen Schäden, die seine Plattformen Kindern zufügen können. Insbesondere KI-Chatbots geraten in die Kritik, da Klagen behaupten, sie hätten Kinder zu Suizid getrieben. Laut einer Studie von Common Sense Media haben über 70 % der Teenager KI-Begleiter genutzt, und die Hälfte tut dies regelmäßig.

Zusätzlich zu den KI-Kontrollen hat Meta am Dienstag bekannt gegeben, dass Teenager-Konten auf Instagram standardmäßig auf PG-13-Inhalte beschränkt werden. Das bedeutet, dass Inhalte, die sexuelle Themen, Drogen oder gefährliche Stunts beinhalten, für diese Nutzergruppen nicht sichtbar sein werden, es sei denn, die Eltern erlauben dies ausdrücklich. Diese PG-13-Beschränkungen werden auch auf KI-Chats angewendet.

Skepsis von Kinderschutzorganisationen

Kinderschutzorganisationen äußern jedoch Skepsis gegenüber Metas Vorgehen. James Steyer, Gründer und CEO von Common Sense Media, bezeichnete die neuen Kontrollen als "unzureichende, reaktive Konzession", die nicht notwendig wäre, wenn Meta proaktiver beim Schutz von Kindern gewesen wäre. Er kritisierte auch, dass Meta Monate mit der Implementierung dieser Funktionen warte, obwohl "jede Sekunde zählt". Steyer betonte, dass Meta "zu lange die unerbittliche Jagd nach Engagement über die Sicherheit unserer Kinder gestellt hat" und dass Meta-KI-Chatbots "für niemanden unter 18 Jahren sicher sind". Common Sense Media empfiehlt generell, dass Minderjährige keine KI-Chatbots nutzen sollten.