Kalifornien hat Geschichte geschrieben, indem es als erster Bundesstaat ein umfassendes Gesetz zur Sicherheit von künstlicher Intelligenz (KI) verabschiedet hat. Gouverneur Gavin Newsom unterzeichnete die wegweisende Gesetzgebung, die darauf abzielt, die Risiken von KI zu mindern und die Rechenschaftspflicht zu stärken, während sie gleichzeitig Innovationen fördert.

Wichtige Erkenntnisse

Das Gesetz (SB 53) verpflichtet bestimmte KI-Entwickler zur Offenlegung ihrer Sicherheits- und Schutzprotokolle.
Es schafft einen Mechanismus zur Meldung von schwerwiegenden Sicherheitsvorfällen an den Staat.
Das Gesetz bietet Whistleblower-Schutz für KI-Arbeiter.
Es legt den Grundstein für einen staatlich betriebenen Cloud-Computing-Cluster namens CalCompute.

Ein neuer Standard für KI-Regulierung

Gouverneur Newsom erklärte in einer Mitteilung, dass Kalifornien gezeigt habe, dass es "Vorschriften zum Schutz unserer Gemeinschaften erlassen kann, während gleichzeitig sichergestellt wird, dass die wachsende KI-Industrie weiterhin floriert". Er betonte, dass das Gesetz "dieses Gleichgewicht" herstelle und Kalifornien als "nationalen und globalen Führer" in der KI-Sicherheit positioniere.

Das Gesetz verlangt von einigen KI-Entwicklern, ihre Sicherheits- und Schutzpläne öffentlich zu machen. Dies geht über die Anforderungen der EU-KI-Verordnung hinaus, die solche Maßnahmen nur privat an Regierungen weitergibt. Darüber hinaus müssen Unternehmen Vorfälle melden, die mit Verbrechen ohne menschliche Aufsicht, wie Cyberangriffen, oder täuschendem Verhalten von KI-Modellen zusammenhängen, was ebenfalls eine Neuerung darstellt.

Branchenreaktionen und zukünftige Auswirkungen

Die Gesetzgebung ist ein bedeutender Erfolg für Senator Scott Wiener, der maßgeblich an der Ausarbeitung beteiligt war. Nach einem früheren, umfassenderen Gesetzesentwurf, der von der Tech-Industrie kritisiert wurde, hat Wiener diesmal eng mit den KI-Unternehmen und der Regierung von Newsom zusammengearbeitet. Große KI-Unternehmen wie OpenAI und Meta zeigten sich positiv oder unterstützten das Gesetz. Ein Sprecher von Meta bezeichnete es als "positiven Schritt" in Richtung "ausgewogener KI-Regulierung", während Anthropic die "praktischen Schutzmaßnahmen" lobte, die "echte Rechenschaftspflicht" schaffen.

Einige Branchenvertreter äußerten jedoch weiterhin Bedenken. Die Lobbygruppe Chamber of Progress kritisierte, dass das Gesetz die Innovationsökonomie des Staates beeinträchtigen könnte. Auch Andreessen Horowitz äußerte Bedenken, dass die Regulierung der Technologieentwicklung Start-ups benachteiligen und die größten Akteure stärken könnte.

Ein Präzedenzfall für die Nation?

Die Verabschiedung des Gesetzes in Kalifornien setzt einen Präzedenzfall für andere Bundesstaaten und wirft Fragen nach einer nationalen KI-Regulierungsstrategie auf. Während einige Kongressabgeordnete eine bundesweite Harmonisierung anstreben, um widersprüchliche staatliche Vorschriften zu vermeiden, könnte Kaliforniens Vorgehen andere Staaten dazu inspirieren, ähnliche Maßnahmen zu ergreifen. Die Entwicklung der KI-Regulierung in den USA bleibt damit ein dynamisches Feld, in dem staatliche und bundesstaatliche Bemühungen zunehmend an Bedeutung gewinnen.