In einer für die Technologiewelt bedeutenden Entwicklung haben die Mitglieder des Europäischen Parlaments (MEP) mit dem Rat eine politische Einigung über das bahnbrechende Gesetz zur künstlichen Intelligenz erzielt.
Ziel dieser Vereinbarung ist es, ein ausgewogenes Verhältnis zu schaffen: Sie soll gewährleisten, dass KI in Europa sicher , die Grundrechte und die Demokratie , gleichzeitig aber Innovationen fördert und Europa als Vorreiter im KI-Bereich positioniert.
Im Rahmen ihrer Digitalstrategie erkennt die EU das transformative Potenzial von KI in Sektoren wie Gesundheitswesen, Verkehr, Fertigung und Energie an. Der KI-Gesetzentwurf klassifiziert KI-Systeme anhand des von ihnen ausgehenden Risikos und legt damit den Grundstein für die weltweit ersten KI-Regeln.
Das Europäische Parlament legt größten Wert auf die Sicherheit, Transparenz, Rückverfolgbarkeit, Nichtdiskriminierung und Umweltfreundlichkeit der in der EU eingesetzten KI-Systeme. Das Parlament plädiert für eine menschliche Kontrolle gegenüber der Automatisierung und strebt eine technologieneutrale, einheitliche Definition für KI an, die für zukünftige Systeme gilt.
Die Gesetzgebung sieht unterschiedliche Verpflichtungen für Anbieter und Nutzer vor, die sich nach dem mit KI verbundenen Risiko richten. KI-Systeme mit inakzeptablem Risiko, die eine Bedrohung für Menschen darstellen, werden verboten. KI-Systeme mit hohem Risiko, die die Sicherheit oder Grundrechte beeinträchtigen, werden kategorisiert und vor der Markteinführung einer Bewertung unterzogen.
Generative KI, wie ChatGPT, muss Transparenzanforderungen einhalten. Dazu gehört die Offenlegung KI-generierter Inhalte, die Entwicklung von Modellen zur Verhinderung illegaler Inhaltsgenerierung und die Veröffentlichung von Zusammenfassungen urheberrechtlich geschützter Daten, die für das Training verwendet werden.
KI-Systeme mit begrenztem Risiko müssen minimale Transparenzanforderungen erfüllen. Nutzer sollten bei der Interaktion mit KI informiert werden, insbesondere bei Systemen, die Bild-, Audio- oder Videoinhalte generieren oder manipulieren, wie beispielsweise Deepfakes.
Verbotene Anwendungen
Das Abkommen begegnet potenziellen Bedrohungen der Bürgerrechte und der Demokratie, indem es bestimmte Anwendungen von KI verbietet. Dazu gehören biometrische Kategorisierungssysteme, die sensible Merkmale verwenden, das ungezielte Scraping von Gesichtsbildern für Gesichtserkennungsdatenbanken, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, Social Scoring auf der Grundlage persönlicher Merkmale und KI-Systeme, die menschliches Verhalten manipulieren.
Ausnahmen für Strafverfolgungsbehörden
Für den Einsatz biometrischer Identifikationssysteme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken wurden Sicherheitsvorkehrungen und eng gefasste Ausnahmen festgelegt. Die biometrische Echtzeit- und Fernidentifizierung unterliegt strengen Auflagen und ist nur eingeschränkt nutzbar. Der Schwerpunkt liegt auf gezielten Durchsuchungen, der Abwehr spezifischer terroristischer Bedrohungen und der Lokalisierung von Personen, die verdächtigt werden, bestimmte Straftaten begangen zu haben.
Pflichten für Hochrisikosysteme
Für KI-Systeme mit hohem Risiko wurden klare Verpflichtungen festgelegt, darunter eine obligatorische Folgenabschätzung für die Grundrechte. Dies gilt für Branchen wie das Versicherungs- und Bankwesen. Bürger haben das Recht, sich über KI-Systeme zu beschweren, die ihre Rechte beeinträchtigen.
Leitplanken für allgemeine KI-Systeme
Universelle KI-Systeme (GPAI) müssen Transparenzanforderungen erfüllen, darunter technische Dokumentation und die Einhaltung des EU-Urheberrechts. Für hochwirksame GPAI-Modelle mit systemischem Risiko gelten strengere Verpflichtungen, darunter Modellbewertungen, Risikobewertungen, kontradiktorische Tests sowie die Berichterstattung über schwerwiegende Vorfälle und Cybersicherheit.
Maßnahmen zur Förderung von Innovation und KMU
Die Vereinbarung fördert regulatorische Sandboxes und Tests in der realen Welt, um sicherzustellen, dass Unternehmen, insbesondere KMU, KI-Lösungen ohne unangemessenen Druck von Branchenriesen entwickeln können.
Sanktionen und Inkrafttreten
Bei Verstößen gegen die Vorschriften drohen Geldbußen zwischen 35 Millionen Euro bzw. 7 % des weltweiten Umsatzes und 7,5 Millionen Euro bzw. 1,5 % des Umsatzes, je nach Verstoß und Unternehmensgröße.
Nach der Einigung betonte Ko-Berichterstatter Brando Benifei, wie wichtig die Gesetzgebung sei, um Rechte und Freiheiten im Mittelpunkt der KI-Entwicklung zu halten. Ko-Berichterstatter Dragos Tudorache hob die Vorreiterrolle der EU bei der Festlegung robuster KI-Regelungen, dem Schutz von Bürgern und KMU sowie der Förderung von Innovationen hervor.
Der vereinbarte Text wird nun von Parlament und Rat formell angenommen und wird EU-Recht. Während Europa bei der Regulierung von KI die Führung übernimmt, blickt die Welt gespannt darauf, wie diese Regeln die Zukunft der Technologie prägen und einen menschenzentrierten Ansatz für die Entwicklung und Evolution von KI gewährleisten werden.
Am 14. Juni 2023 haben die Abgeordneten die Verhandlungsposition des Parlaments zum KI-Gesetz verabschiedet. Nun beginnen die Gespräche mit den EU-Ländern im Rat, um das Gesetz fertigzustellen. Ziel ist es, bis Ende des Jahres eine Einigung zu erzielen.
