In een belangrijke ontwikkeling voor de techwereld hebben leden van het Europees Parlement (MEP's) een politieke deal bereikt met de Raad over de baanbrekende Artificial Intelligence Act. 

Deze overeenkomst is bedoeld om een delicaat evenwicht te vinden en ervoor te zorgen dat AI in Europa veilig is en de grondrechten en democratie respecteert, terwijl tegelijkertijd innovatie wordt gestimuleerd en Europa wordt gepositioneerd als leider op het gebied van AI.

Als onderdeel van haar digitale strategie erkent de EU het transformatieve potentieel van AI in sectoren zoals gezondheidszorg, transport, productie en energie. De AI-wet, die in april 2021 is voorgesteld, classificeert AI-systemen op basis van het risico dat ze vormen en legt daarmee de basis voor 's werelds eerste regels voor AI.

Het Europees Parlement geeft prioriteit aan de veiligheid, transparantie, traceerbaarheid, non-discriminatie en milieuvriendelijkheid van AI-systemen die in de EU worden gebruikt. Het Parlement pleit voor menselijk toezicht op automatisering en streeft naar een technologieneutrale, uniforme definitie voor AI die van toepassing is op toekomstige systemen.

De wetgeving legt aanbieders en gebruikers verschillende verplichtingen op, afhankelijk van het risiconiveau van AI. AI-systemen met een onaanvaardbaar risico, die een bedreiging vormen voor mensen, zullen worden verboden. AI-systemen met een hoog risico, die gevolgen hebben voor de veiligheid of de grondrechten, worden gecategoriseerd en beoordeeld voordat ze op de markt komen.

Generatieve AI, zoals ChatGPT, moet zich houden aan transparantievereisten. Dit omvat het openbaar maken van AI-gegenereerde inhoud, het ontwerpen van modellen om het genereren van illegale inhoud te voorkomen en het publiceren van samenvattingen van auteursrechtelijk beschermde gegevens die zijn gebruikt voor training.

AI-systemen met een beperkt risico moeten voldoen aan minimale transparantie-eisen. Gebruikers moeten worden geïnformeerd bij interactie met AI, met name systemen die beeld-, audio- of video-inhoud genereren of manipuleren, zoals deepfakes.

Verboden toepassingen

De overeenkomst pakt potentiële bedreigingen voor burgerrechten en democratie aan door bepaalde toepassingen van AI te verbieden. Hieronder vallen biometrische categorisatiesystemen die gebruik maken van gevoelige kenmerken, het ongericht schrapen van gezichtsfoto's voor gezichtsherkenningsdatabases, emotieherkenning op de werkplek en in onderwijsinstellingen, sociaal scoren op basis van persoonlijke kenmerken en AI-systemen die menselijk gedrag manipuleren.

Vrijstellingen voor wetshandhaving

Er zijn waarborgen en beperkte uitzonderingen vastgesteld voor het gebruik van biometrische identificatiesystemen in openbaar toegankelijke ruimten voor wetshandhavingsdoeleinden. Real-time en post-remote biometrische identificatie zijn onderworpen aan strikte voorwaarden en beperkt gebruik, gericht op gerichte huiszoekingen, het voorkomen van specifieke terroristische dreigingen en het lokaliseren van personen die verdacht worden van het plegen van specifieke misdrijven.

Verplichtingen voor systemen met een hoog risico

Er zijn duidelijke verplichtingen opgesteld voor AI-systemen met een hoog risico, waaronder een verplichte beoordeling van de gevolgen voor de grondrechten. Dit geldt voor sectoren als verzekeringen en banken, waarbij burgers het recht hebben om klachten in te dienen over AI-systemen die hun rechten aantasten.

Beschermende maatregelen voor algemene AI-systemen

AI-systemen voor algemene doeleinden (GPAI) moeten voldoen aan transparantie-eisen, waaronder technische documentatie en naleving van de EU-wetgeving inzake auteursrecht. Voor GPAI-modellen met een hoge impact en systeemrisico gelden strengere verplichtingen, waaronder modelevaluaties, risicobeoordelingen, contradictietests en rapportage over ernstige incidenten en cyberbeveiliging.

Maatregelen ter ondersteuning van innovatie en KMO's

De overeenkomst bevordert regelgevende sandboxes en real-world tests om ervoor te zorgen dat bedrijven, met name KMO's, AI-oplossingen kunnen ontwikkelen zonder onnodige druk van industriële reuzen.

Sancties en inwerkingtreding

Het niet naleven van de regels kan leiden tot boetes variërend van 35 miljoen euro of 7% van de wereldwijde omzet tot 7,5 miljoen of 1,5% van de omzet, afhankelijk van de overtreding en de bedrijfsgrootte.

Na de overeenkomst benadrukte corapporteur Brando Benifei het belang van de wetgeving om rechten en vrijheden centraal te stellen bij de ontwikkeling van AI. Co-rapporteur Dragos Tudorache benadrukte de voortrekkersrol van de EU bij het opstellen van robuuste regelgeving op het gebied van AI, het beschermen van burgers en het MKB en het stimuleren van innovatie.

De overeengekomen tekst moet nu formeel worden aangenomen door zowel het Parlement als de Raad om EU-wetgeving te worden. Nu Europa het voortouw neemt bij het reguleren van AI, is de wereld benieuwd hoe deze regels de toekomst van de technologie vorm zullen geven en hoe ze een mensgerichte benadering van de ontwikkeling en evolutie van AI zullen waarborgen.

Op 14 juni 2023 hebben de leden van het Europees Parlement de onderhandelingspositie van het Parlement inzake de AI-wet aangenomen. De gesprekken met de EU-landen in de Raad zullen nu beginnen om de wet af te ronden. Het doel is om tegen het einde van het jaar een akkoord te bereiken.