In einer bedeutenden Entwicklung für die Tech-Welt haben die Mitglieder des Europäischen Parlaments (MdEP) eine politische Einigung mit dem Rat über den bahnbrechenden Akt für Künstliche Intelligenz erzielt.
Dieses Abkommen zielt darauf ab, ein ausgewogenes Verhältnis herzustellen, das sicherstellt, dass KI in Europa sicher , die Grundrechte und die Demokratie und gleichzeitig Innovationen fördert und Europa als führenden Akteur im Bereich der KI positioniert.
Im Rahmen ihrer Digitalstrategie erkennt die EU das transformative Potenzial von KI in Sektoren wie Gesundheitswesen, Transport, Fertigung und Energie an. Der KI-Gesetzentwurf klassifiziert KI-Systeme anhand des von ihnen ausgehenden Risikos und legt damit den Grundstein für die weltweit ersten KI-Regeln.
Das Europäische Parlament legt großen Wert auf die Sicherheit, Transparenz, Rückverfolgbarkeit, Nichtdiskriminierung und Umweltfreundlichkeit von KI-Systemen, die in der EU eingesetzt werden. Es plädiert für die menschliche Kontrolle von Automatisierungsprozessen und strebt eine technologieneutrale, einheitliche Definition von KI an, die für zukünftige Systeme gilt.
Das Gesetz legt je nach Risikograd der KI unterschiedliche Pflichten für Anbieter und Nutzer fest. KI-Systeme mit inakzeptablem Risiko, die eine Gefahr für Menschen darstellen, werden verboten. Hochrisiko-KI-Systeme, die die Sicherheit oder Grundrechte beeinträchtigen, werden kategorisiert und vor ihrer Markteinführung einer Bewertung unterzogen.
Generative KI, wie beispielsweise ChatGPT, muss Transparenzauflagen erfüllen. Dazu gehören die Offenlegung KI-generierter Inhalte, die Entwicklung von Modellen zur Verhinderung illegaler Inhaltsgenerierung und die Veröffentlichung von Zusammenfassungen der urheberrechtlich geschützten Trainingsdaten.
KI-Systeme mit geringem Risiko müssen Mindestanforderungen an die Transparenz erfüllen. Nutzer sollten beim Umgang mit KI informiert werden, insbesondere bei Systemen, die Bild-, Audio- oder Videoinhalte generieren oder manipulieren, wie beispielsweise Deepfakes.
Verbotene Anwendungen
Das Abkommen befasst sich mit potenziellen Bedrohungen der Bürgerrechte und der Demokratie, indem es bestimmte Anwendungen von KI verbietet. Dazu gehören biometrische Kategorisierungssysteme, die sensible Merkmale nutzen, das ungerichtete Sammeln von Gesichtsbildern für Gesichtserkennungsdatenbanken, die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, soziale Bewertungssysteme auf Basis persönlicher Merkmale sowie KI-Systeme, die menschliches Verhalten manipulieren.
Ausnahmen für Strafverfolgungsbehörden
Für den Einsatz biometrischer Identifizierungssysteme im öffentlichen Raum zu Strafverfolgungszwecken wurden Schutzmaßnahmen und enge Ausnahmeregelungen eingeführt. Die biometrische Identifizierung in Echtzeit und nachträglich per Fernzugriff unterliegt strengen Auflagen und ist auf bestimmte Zwecke beschränkt. Der Fokus liegt auf gezielten Durchsuchungen, der Abwehr konkreter terroristischer Bedrohungen und der Lokalisierung von Personen, die bestimmter Straftaten verdächtigt werden.
Verpflichtungen für Hochrisikosysteme
Für KI-Systeme mit hohem Risiko wurden klare Verpflichtungen festgelegt, darunter eine obligatorische Folgenabschätzung hinsichtlich der Grundrechte. Dies gilt für Branchen wie das Versicherungs- und Bankwesen, wobei Bürger das Recht haben, Beschwerden über KI-Systeme einzureichen, die ihre Rechte beeinträchtigen.
Leitplanken für allgemeine KI-Systeme
Allgemeine KI-Systeme (GPAI) müssen Transparenzanforderungen erfüllen, darunter die Bereitstellung technischer Dokumentation und die Einhaltung des EU-Urheberrechts. Für GPAI-Modelle mit hohem Einfluss und systemischem Risiko gelten strengere Auflagen, darunter Modellevaluierungen, Risikobewertungen, Angriffstests und die Meldung schwerwiegender Vorfälle und Cybersicherheitsverletzungen.
Maßnahmen zur Unterstützung von Innovation und KMU
Die Vereinbarung fördert regulatorische Testumgebungen und Praxistests, um sicherzustellen, dass Unternehmen, insbesondere KMU, KI-Lösungen ohne ungebührlichen Druck von Branchenriesen entwickeln können.
Sanktionen und Inkrafttreten
Die Nichteinhaltung der Regeln kann zu Geldbußen in Höhe von 35 Millionen Euro oder 7 % des weltweiten Umsatzes bis zu 7,5 Millionen Euro oder 1,5 % des Umsatzes führen, abhängig vom Verstoß und der Unternehmensgröße.
Im Anschluss an die Einigung betonte Ko-Berichterstatter Brando Benifei die Bedeutung der Gesetzgebung für die Wahrung von Rechten und Freiheiten im Zentrum der KI-Entwicklung. Ko-Berichterstatter Dragos Tudorache hob die Vorreiterrolle der EU bei der Festlegung robuster KI-Regulierungen, dem Schutz von Bürgern und KMU sowie der Förderung von Innovationen hervor.
Der vereinbarte Text wird nun vom Parlament und vom Rat formell angenommen und tritt somit in Kraft. Da Europa bei der Regulierung von KI eine Vorreiterrolle einnimmt, beobachtet die Welt gespannt, wie diese Regeln die Zukunft der Technologie prägen und einen menschenzentrierten Ansatz für die Entwicklung und Weiterentwicklung von KI gewährleisten werden.
Am 14. Juni 2023 haben die Abgeordneten des Europäischen Parlaments die Verhandlungsposition des Parlaments zum KI-Gesetz angenommen. Nun beginnen die Gespräche mit den EU-Ländern im Rat, um das Gesetz abzuschließen. Ziel ist es, bis Ende des Jahres eine Einigung zu erzielen.
