Meta reagiert auf Sicherheitsbedenken und führt neue elterliche Kontrollmöglichkeiten für KI-Chatbots auf Instagram ein. Diese Maßnahmen sollen Minderjährigen einen sichereren Umgang mit künstlicher Intelligenz auf der Plattform ermöglichen, nachdem Berichte über unangemessene Interaktionen mit KI-Charakteren aufkamen.

Wichtige Neuerungen für Eltern

Eltern können den Zugriff ihrer Kinder auf Einzelgespräche mit KI-Charakteren vollständig deaktivieren.
Es ist möglich, spezifische KI-Charaktere zu blockieren, ohne den gesamten KI-Zugriff zu unterbinden.
Eltern erhalten Einblicke in die Themen, über die ihre Kinder mit KI-Charakteren sprechen.

Neue Kontrollwerkzeuge für Eltern

Meta hat angekündigt, dass Eltern bald die Möglichkeit haben werden, die Interaktionen ihrer Teenager mit KI-Charakteren auf Instagram zu steuern. Diese neuen Funktionen sollen Eltern mehr Transparenz und Kontrolle über die digitalen Erlebnisse ihrer Kinder verschaffen. Eltern können wählen, ob sie den Zugriff ihrer Kinder auf Einzelgespräche mit KI-Charakteren komplett ausschalten möchten. Alternativ besteht die Möglichkeit, nur bestimmte KI-Charaktere zu blockieren, wenn eine vollständige Deaktivierung nicht gewünscht ist. Darüber hinaus erhalten Eltern Einblicke in die Themen, die ihre Kinder mit den KI-Assistenten und Charakteren besprechen. Diese Informationen sollen Eltern dabei unterstützen, sinnvolle Gespräche mit ihren Kindern über deren KI-Interaktionen zu führen.

Bestehende und erweiterte Schutzmaßnahmen

Die neuen Kontrollen bauen auf bereits bestehenden Schutzmaßnahmen für Teenager-Konten auf. Dazu gehört die Anpassung der KI-Antworten an eine PG-13-Altersfreigabe, ähnlich wie bei Filmen. Das bedeutet, dass die KI keine altersunangemessenen Inhalte generieren soll, die in einem PG-13-Film fehl am Platz wären. KI-Charaktere sind zudem so konzipiert, dass sie keine Gespräche über Selbstverletzung, Suizid oder Essstörungen mit Minderjährigen führen. Stattdessen sollen sie in solchen Fällen auf Hilfsangebote verweisen. Teenager können nur mit einer begrenzten Auswahl an KI-Charakteren interagieren, die sich auf altersgerechte Themen wie Bildung und Hobbys konzentrieren, nicht auf Romantik oder andere unangemessene Inhalte. Meta setzt auch KI-Technologie ein, um sicherzustellen, dass Nutzer, die als Teenager identifiziert werden, auch den entsprechenden Schutzmaßnahmen unterliegen, selbst wenn sie angeben, volljährig zu sein.

Zeitplan und Verfügbarkeit

Die neuen elterlichen Kontrollfunktionen werden zunächst auf Instagram eingeführt und sollen Anfang nächsten Jahres verfügbar sein. Die Einführung erfolgt schrittweise in englischsprachigen Ländern wie den USA, Großbritannien, Kanada und Australien. Meta betont, dass die Entwicklung von Funktionen für Milliarden von Nutzern sorgfältig erfolgen muss und weitere Details zu gegebener Zeit bekannt gegeben werden.