14. Juni 2023 KI-Gesetz: Parlament beschließt Rahmen für künstliche Intelligenz

Europäische Parlament fordert Regulierung von KI in der EU – Hohe Anforderungen an Sicherheit, Datenschutz und Transparenz – Parlamentspräsidentin Metsola: "Stolz, dass das Europäische Parlament, das weltweit erste Gesetz über künstliche Intelligenz verabschiedet hat"

Das Europäische Parlament hat am 14. Juni 2023 seine Verhandlungsposition zum Gesetz über künstliche Intelligenz (KI; auf Englisch: Artificial Intelligence Act, kurz AI Act) und zu der damit verbundenen Regulierung von KI mit 499 zu 28 Stimmen bei 93 Enthaltungen angenommen. Die Vorschriften sollen dafür sorgen, dass in der EU entwickelte und eingesetzte KI in vollem Umfang den Rechten und Werten der EU entspricht, von Menschen beaufsichtigt wird, Anforderungen an Sicherheit, Datenschutz und Transparenz genügt, niemanden diskriminiert und weder Gesellschaft noch Umwelt schädigt. Mit der Annahme durch das Parlament können die Verhandlungen mit den EU-Mitgliedstaaten über die endgültige Form des Gesetzes über KI beginnen.

Parlamentspräsidentin Metsola: "Wir schreiben Geschichte – weltweit erstes Gesetz über künstliche Intelligenz!"

Die Präsidentin des Europäischen Parlaments, Roberta Metsola, zeigte sich erfreut über das Ergebnis: "Wir schreiben Geschichte! Ich bin stolz, dass das Europäische Parlament das weltweit erste Gesetz über künstliche Intelligenz verabschiedet hat. Es ist eine ausgewogene und auf den Menschen ausgerichtete Gesetzgebung, die in den kommenden Jahren den globalen Standard setzen wird. Europa wird weiterhin führend in der Innovation sein."

Florian Tursky, Staatssekretär für Digitalisierung in Österreich, erklärte: "Wichtig ist für Europa, rasch zu einer klugen KI-Regulierung zu kommen, die Innovation ermöglicht, aber gleichzeitig Massenüberwachung oder 'Social Scoring' mittels KI-Anwendungen untersagt. KI-Anwendungen müssen auch Transparenzverpflichtungen wahrnehmen, damit für die Konsumentinnen und Konsumenten zu jeder Zeit klar ersichtlich ist, wenn sie mit einer künstlichen Intelligenz konfrontiert sind und woher die Informationen stammen."

Regulierung von KI: Sicherheit und Schutz der Privatsphäre im Fokus

Als Teil ihrer digitalen Strategie will die EU künstliche Intelligenz (KI) regulieren, um bessere Bedingungen für die Entwicklung und Nutzung dieser innovativen Technologie zu schaffen. Die nun durch das Parlament angenommenen Vorschriften zu KI richten sich nach dem Grad der möglichen Gefahr, die von KI ausgeht. Demnach sollen in Zukunft bestimmte Pflichten für Anbieterinnen und Anbieter sowie Nutzerinnen und Nutzer von KI gelten und KI-Systeme, die die menschliche Sicherheit in inakzeptabler Weise gefährden, verboten werden. Hierzu zählt unter anderem das sogenannten "Social Scoring" – eine Klassifizierung natürlicher Personen auf der Grundlage ihres sozialen Verhaltens oder ihrer Persönlichkeitsmerkmale. Zusätzlich fordert das Parlament weitere Verbote für KI-Anwendungen, die in die Privatsphäre eingreifen und diskriminieren, darunter:

Biometrische Systeme, die es ermöglichen, Personen in Echtzeit oder nachträglich an öffentlich zugänglichen Orten aus der Ferne zu identifizieren;
Systeme zur biometrischen Kategorisierung anhand sensibler Merkmale (beispielsweise Geschlecht, ethnische Zugehörigkeit, Staatsbürgerschaft, Religion oder politische Orientierung);
Vorausschauende Polizeiarbeit, die mit Profilerstellung sowie Standortermittlung arbeitet und aufgrund früheren kriminellen Verhaltens abschätzt, inwieweit eine Person Gefahr läuft, straffällig zu werden;
In der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen verwendete Emotionserkennungssysteme;
Das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken (Verletzung der Menschenrechte und des Rechts auf Privatsphäre).

Des Weiteren soll das neue Gesetz über KI veranlassen, dass KI-Systeme, welche die Gesundheit, die Sicherheit und die Grundrechte von Menschen beziehungsweise die Umwelt erheblich gefährden, als Hochrisiko-Anwendungen gelten. In die entsprechende Liste sind KI-Systeme aufgenommen worden, die zur Beeinflussung von Wählerinnen und Wählern sowie Wahlergebnissen und in Empfehlungssystemen von Social-Media-Plattformen (mit mehr als 45 Millionen Nutzerinnen und Nutzern) eingesetzt werden.

Pflicht zur Offenlegung KI-generierter Inhalte

Anbieterinnen und Anbieter von so genannten Basismodellen – einem "Deep-Learning"-Algorithmus, der mit extrem großen Datensätzen aus dem öffentlichen Internet vortrainiert wurde – sollen künftig Risiken (für Gesundheit, Sicherheit, die Grundrechte von Personen, die Umwelt oder für Demokratie und Rechtsstaatlichkeit) abschätzen, mindern und ihre Modelle in einer entsprechenden EU-Datenbank registrieren, bevor sie auf den EU-Markt kommen. Solche generativen KI-Systeme wie beispielsweise "ChatGPT" sollen Transparenzanforderungen erfüllen und offenlegen, dass die Inhalte KI-generiert sind. Hierzu zählt unter anderem die Unterscheidung sogenannter "Deepfake"-Fotos von echten Abbildungen. Zusätzlich sollen die Anbieterinnen und Anbieter dieser KI-Systeme künftig dafür sorgen, dass keine rechtswidrigen Inhalte erzeugt werden, und detaillierte Zusammenfassungen der urheberrechtlich geschützten Daten veröffentlichen, die sie zu Trainingszwecken verwendet haben.

Europäisches Amt für KI soll Umsetzung überwachen

Neben der Regulierung über die Nutzung von KI fügte das Parlament auch Ausnahmeregelungen hinzu, welche für Forschungstätigkeiten und KI-Komponenten gelten und auf diesem Weg KI-Innovationen sowie kleine und mittlere Unternehmen fördern sollen. In so genannten "Reallaboren" sollen KI-Anwendungen unter realen Bedingungen getestet werden, bevor sie zum Einsatz kommen. Zusätzlich soll das Recht der Bürgerinnen und Bürger, Beschwerden über KI-Systeme einzureichen und Entscheidungen erklärt zu bekommen, die auf dem Einsatz hochriskanter KI-Systemen beruhen und ihre Grundrechte erheblich beeinträchtigen, gestärkt werden. Mit der Errichtung eines Europäischen Amtes für KI soll die Umsetzung des KI-Regelwerks überwacht werden.

Die nächsten Schritte

Nach der Annahme durch das Europäische Parlament am 14. Juni 2023 ist der Weg frei für die Trilog-Verhandlungen zwischen den europäischen Institutionen über die endgültige Form des Gesetzes über künstliche Intelligenz. Ziel ist es, möglichst bis Jahresende 2023 eine Einigung zu erzielen.

Sujetbild Künstliche Intelligenz - Nutzen im Alltag und mögliche Einsatzgebiete

Hintergrund: Künstliche Intelligenz

Künstliche Intelligenz ist die Fähigkeit einer Maschine, menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität zu imitieren. KI ermöglicht es technischen Systemen, ihre Umwelt wahrzunehmen, mit dem Wahrgenommenen umzugehen und Probleme zu lösen, um ein bestimmtes Ziel zu erreichen. Der Computer empfängt Daten (die bereits über eigene Sensoren, beispielsweise eine Kamera, vorbereitet oder gesammelt wurden), verarbeitet sie und reagiert. KI-Systeme sind in der Lage, ihr Handeln anzupassen, indem sie die Folgen früherer Aktionen analysieren und autonom arbeiten. Fortschritte bei der Rechenleistung sowie die Verfügbarkeit großer Datenmengen und neue Algorithmen haben in den vergangenen Jahren zu bahnbrechenden Durchbrüchen in der KI geführt.

Künstliche Intelligenz ist ein wesentlicher Treiber für die digitale Transformation der Gesellschaft. Vor diesem Hintergrund ist KI auch eine wichtige Priorität der EU. Im April 2021 hatte die Kommission einen Verordnungsentwurf für KI vorgeschlagen. Darin wird empfohlen, dass KI-Systeme, die in verschiedenen Anwendungen eingesetzt werden können, je nach dem Risiko, das sie für die Nutzerinnen und Nutzer darstellen, analysiert und eingestuft werden. Im Dezember 2022 folgte die allgemeine Ausrichtung (Festlegung des gemeinsamen Standpunktes) durch den Rat der EU.