In een belangrijke ontwikkeling voor de techwereld hebben leden van het Europees Parlement (EP) een politieke overeenkomst bereikt met de Raad over de baanbrekende wet op kunstmatige intelligentie. 

Met deze overeenkomst willen we een delicaat evenwicht bereiken en ervoor zorgen dat AI in Europa veilig, dat fundamentele rechten en democratie, en dat innovatie wordt gestimuleerd en Europa een leidende rol gaat spelen op het gebied van AI.

As part of its digital strategy, the EU recognizes the transformative potential of AI in sectors such as healthcare, transport, manufacturing, and energy. The AI Act, proposed in April 2021, classifies AI systems based on the risk they pose, laying the foundation for the world's inaugural rules on AI.

Het Europees Parlement geeft prioriteit aan de veiligheid, transparantie, traceerbaarheid, non-discriminatie en milieuvriendelijkheid van AI-systemen die in de EU worden gebruikt. Het Parlement pleit voor menselijk toezicht op automatisering en streeft naar een technologieneutrale, uniforme definitie van AI die toepasbaar is op toekomstige systemen.

De wetgeving legt verschillende verplichtingen op voor aanbieders en gebruikers, afhankelijk van het risiconiveau dat aan AI verbonden is. AI-systemen met een onaanvaardbaar risico die een bedreiging vormen voor de mens, worden verboden. AI-systemen met een hoog risico die de veiligheid of fundamentele rechten in gevaar brengen, worden gecategoriseerd en beoordeeld voordat ze op de markt komen.

Generatieve AI, zoals ChatGPT, moet voldoen aan transparantievereisten. Dit omvat het openbaar maken van door AI gegenereerde content, het ontwerpen van modellen om illegale contentgeneratie te voorkomen en het publiceren van samenvattingen van auteursrechtelijk beschermde data die voor training worden gebruikt.

AI-systemen met beperkt risico moeten voldoen aan minimale transparantievereisten. Gebruikers moeten geïnformeerd worden wanneer ze met AI omgaan, met name systemen die beeld-, audio- of videocontent genereren of manipuleren, zoals deepfakes.

Verboden applicaties

De overeenkomst pakt potentiële bedreigingen voor de rechten van burgers en de democratie aan door bepaalde toepassingen van AI te verbieden. Deze omvatten biometrische categorisatiesystemen die gebruikmaken van gevoelige kenmerken, het ongericht scrapen van gezichtsbeelden voor gezichtsherkenningsdatabases, emotieherkenning op de werkplek en in onderwijsinstellingen, sociale scores op basis van persoonlijke kenmerken en AI-systemen die menselijk gedrag manipuleren.

Uitzonderingen voor wetshandhaving

Er zijn waarborgen en beperkte uitzonderingen vastgesteld voor het gebruik van biometrische identificatiesystemen in openbaar toegankelijke ruimtes voor rechtshandhavingsdoeleinden. Biometrische identificatie in realtime en op afstand is onderworpen aan strikte voorwaarden en beperkt gebruik, gericht op gerichte zoekopdrachten, het voorkomen van specifieke terroristische dreigingen en het lokaliseren van personen die ervan worden verdacht specifieke misdrijven te hebben gepleegd.

Verplichtingen voor systemen met een hoog risico

Er zijn duidelijke verplichtingen vastgelegd voor AI-systemen met een hoog risico, waaronder een verplichte impactbeoordeling van de grondrechten. Dit geldt voor sectoren zoals verzekeringen en banken, waar burgers het recht hebben om klachten in te dienen over AI-systemen die hun rechten aantasten.

Vangrails voor algemene AI-systemen

GPAI-systemen (General Purpose AI) moeten voldoen aan transparantievereisten, waaronder technische documentatie en naleving van de EU-auteursrechtwetgeving. GPAI-modellen met een hoge impact en systemisch risico worden geconfronteerd met strengere verplichtingen, waaronder modelevaluaties, risicobeoordelingen, adversarial testing en rapportage over ernstige incidenten en cyberbeveiliging.

Maatregelen ter ondersteuning van innovatie en het MKB

De overeenkomst bevordert regelgevende proeftuinen en praktijktesten om ervoor te zorgen dat bedrijven, met name het MKB, AI-oplossingen kunnen ontwikkelen zonder onnodige druk van grote spelers in de sector.

Sancties en inwerkingtreding

Bij niet-naleving van de regels kunnen boetes worden opgelegd die variëren van 35 miljoen euro of 7% van de wereldwijde omzet tot 7,5 miljoen euro of 1,5% van de omzet, afhankelijk van de overtreding en de grootte van het bedrijf.

Na de overeenkomst benadrukte corapporteur Brando Benifei het belang van de wetgeving om rechten en vrijheden centraal te stellen in de ontwikkeling van AI. Corapporteur Dragos Tudorache benadrukte de voortrekkersrol die de EU speelt bij het vaststellen van robuuste regelgeving voor AI, het beschermen van burgers en het midden- en kleinbedrijf en het stimuleren van innovatie.

De overeengekomen tekst zal nu formeel worden aangenomen door zowel het Parlement als de Raad en als EU-wetgeving worden beschouwd. Nu Europa het voortouw neemt in de regulering van AI, kijkt de wereld vol spanning toe hoe deze regels de toekomst van technologie zullen vormgeven en een mensgerichte benadering van de ontwikkeling en evolutie van AI zullen garanderen.

Op 14 juni 2023 hebben de Europarlementariërs de onderhandelingspositie van het Parlement ten aanzien van de AI-wet aangenomen. De onderhandelingen met de EU-landen in de Raad beginnen nu om de wet af te ronden. Het doel is om vóór het einde van het jaar een akkoord te bereiken.