Das Europäische Parlament hat mit überwältigender Mehrheit das wegweisende Gesetz zur Künstlichen Intelligenz (KI-Gesetz) verabschiedet. Dieses Gesetz zielt darauf ab, Grundrechte, Demokratie und Rechtsstaatlichkeit zu schützen, während es gleichzeitig Innovationen fördert und Europa als führenden Akteur im KI-Bereich etabliert. Die Regelung stuft KI-Anwendungen nach ihrem Risikopotenzial ein und legt entsprechende Verpflichtungen fest.

Wichtige Eckpunkte

Verbot bestimmter KI-Anwendungen, die Grundrechte bedrohen.
Klare Verpflichtungen für Hochrisiko-KI-Systeme.
Transparenzanforderungen für allgemeine KI-Modelle und "Deepfakes".
Maßnahmen zur Förderung von Innovation und Unterstützung von KMU.

Verbotene KI-Anwendungen

Das neue Gesetz verbietet bestimmte KI-Anwendungen, die die Rechte der Bürger bedrohen. Dazu gehören biometrische Kategorisierungssysteme, die auf sensiblen Merkmalen basieren, sowie das ungezielt "Scraping" von Gesichtsbildern aus dem Internet oder von Überwachungsvideos zur Erstellung von Gesichtserkennungsdatenbanken. Ebenfalls verboten sind Emotionserkennung am Arbeitsplatz und in Schulen, Social Scoring, vorausschauende Polizeiarbeit (wenn sie ausschließlich auf der Profilerstellung oder der Bewertung von Merkmalen einer Person basiert) sowie KI, die menschliches Verhalten manipuliert oder Schwachstellen ausnutzt.

Ausnahmen für Strafverfolgungsbehörden

Der Einsatz von Systemen zur biometrischen Fernidentifizierung durch Strafverfolgungsbehörden ist grundsätzlich untersagt. Ausnahmen sind nur in eng definierten und erschöpfend aufgeführten Situationen möglich. Der Einsatz von "Echtzeit"-Systemen erfordert strenge Schutzmaßnahmen, wie zeitliche und geografische Begrenzung sowie eine vorherige richterliche oder behördliche Genehmigung. Solche Einsätze können beispielsweise zur gezielten Suche nach vermissten Personen oder zur Verhinderung von Terroranschlägen dienen. Der nachträgliche Einsatz ("Post-Remote RBI") gilt als Hochrisikoanwendung und erfordert eine richterliche Genehmigung im Zusammenhang mit einer Straftat.

Verpflichtungen für Hochrisiko-Systeme

Für andere Hochrisiko-KI-Systeme, die erhebliche Risiken für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und Rechtsstaatlichkeit bergen, gelten klare Verpflichtungen. Beispiele hierfür sind KI in kritischer Infrastruktur, Bildung, Beschäftigung, wesentlichen öffentlichen und privaten Diensten (wie Gesundheitswesen und Bankwesen), sowie in bestimmten Bereichen der Strafverfolgung, Migration, Grenzverwaltung, Justiz und demokratischen Prozessen (z.B. Beeinflussung von Wahlen). Diese Systeme müssen Risiken bewerten und mindern, Nutzungsprotokolle führen, transparent und genau sein und menschliche Aufsicht gewährleisten. Bürger erhalten das Recht, Beschwerden über KI-Systeme einzureichen und Erklärungen zu Entscheidungen zu erhalten, die auf Hochrisiko-KI-Systemen basieren und ihre Rechte betreffen.

Transparenzanforderungen

Allgemeine KI-Systeme (GPAI) und die zugrunde liegenden Modelle müssen bestimmte Transparenzanforderungen erfüllen, einschließlich der Einhaltung des EU-Urheberrechts und der Veröffentlichung detaillierter Zusammenfassungen der Trainingsinhalte. Leistungsfähigere GPAI-Modelle, die systemische Risiken bergen könnten, unterliegen zusätzlichen Anforderungen, wie der Durchführung von Modellbewertungen, der Bewertung und Minderung systemischer Risiken sowie der Meldung von Vorfällen. "Deepfakes" – künstlich erstellte oder manipulierte Bilder, Audio- oder Videoinhalte – müssen klar als solche gekennzeichnet werden.

Maßnahmen zur Innovationsförderung

Zur Unterstützung von Innovationen und kleinen und mittleren Unternehmen (KMU) werden auf nationaler Ebene "Regulatory Sandboxes" und reale Testumgebungen eingerichtet. Diese sollen KMU und Start-ups den Zugang zu Testmöglichkeiten für die Entwicklung und Schulung innovativer KI vor der Markteinführung ermöglichen.

Nächste Schritte

Das Gesetz muss noch eine abschließende juristisch-sprachliche Prüfung durchlaufen und wird voraussichtlich vor Ende der Legislaturperiode formell angenommen. Der Rat muss das Gesetz ebenfalls noch formell billigen. Es tritt zwanzig Tage nach seiner Veröffentlichung im Amtsblatt in Kraft und ist 24 Monate nach Inkrafttreten vollständig anwendbar, mit gestaffelten Fristen für bestimmte Bestimmungen wie Verbote, Verhaltenskodizes, GPAI-Regeln und Verpflichtungen für Hochrisikosysteme.