Europees Parlement akkoord met laatste versie van AI Act

Het Europees Parlement heeft de laatste versie van de Artificial Intelligence Act (AI Act) met ruime meerderheid aangenomen. Deze Europese wet moet ervoor zorgen dat Europeanen gebruik kunnen maken van AI volgens de waarden, grondrechten en beginselen van de Europese Unie. 

De AI Act gaat uit van een risico-gebaseerde aanpak. De verplichtingen van aanbieders en gebruikers van AI-systemen zijn derhalve afhankelijk van het risiconiveau dat AI kan creëren en/of genereren.

Verboden toepassingen

AI-systemen met een onaanvaardbaar risiconiveau voor onder meer de veiligheid van mensen worden verboden. Dat geldt bijvoorbeeld voor sociale scoring, oftewel het indelen of profileren van mensen op basis van hun sociale gedrag of persoonlijke kenmerken. Bij de recente stemming hebben Europarlementariërs deze lijst uitgebreid met onder meer de volgende AI-toepassingen:

• ‘Real-time’ biometrische identificatiesystemen op openbare plaatsen;
• Biometrische categorisering op basis van gevoelige kenmerken, zoals geslacht, ras, etniciteit, burgerschap, religie en politieke overtuiging
• Voorspellende opsporingssystemen, gebaseerd op profilering, locatie of eerdere criminele gedragingen
• Emotie-herkenning bij (onder andere) rechtshandhaving en op de werkplek.

AI met hoog risico

Voor hoog-risico systemen, zoals AI-systemen die aanzienlijke schade kunnen veroorzaken aan de gezondheid, veiligheid en/of fundamentele rechten van mensen geldt een strenge regulering onder de AI Act. Denk hierbij aan AI die wordt gebruikt bij de besturing van kritieke infrastructuur zoals wegverkeer en de nutsvoorzieningen. Ook zijn aanbevelingssystemen van social media platforms met meer dan 45 miljoen gebruikers, toegevoegd aan de lijst met hoog-risico toepassingen.

Generatieve AI

Het Europees Parlement is ook akkoord gegaan met het opnemen van regels voor generatieve AI zoals ChatGPT. Aanbieders hiervan dienen mogelijke risico's op het gebied van gezondheid, veiligheid, fundamentele rechten en/of de democratie te beoordelen en te beperken. Ook komt er een registratieplicht in een Europese database, alvorens de toepassing in Europa op de markt kan worden gebracht.

Daarnaast zet Europe voor generatieve AI in op transparantie. Zo dient kenbaar gemaakt te worden als content is gegenereerd door AI.  Bovendien is het verplicht om alle auteursrechtelijk beschermde gegevens die zijn gebruikt voor het trainen van AI-systemen, vast te leggen en het gebruik hiervan in een gedetailleerd overzicht openbaar te maken.

Innovatie

Om innovatie op het gebied van AI te ondersteunen, zijn in de AI Act vrijstellingen ingevoegd voor onderzoeksactiviteiten en voor AI-componenten die onder open-source licenties worden verstrekt. De AI Act bevordert zogenaamde proefomgevingen (sandboxes) die door overheidsinstanties worden opgezet om AI te kunnen testen voordat het op de markt wordt gebracht.

Positie burgers

Tot slot wil het Europees Parlement rechten van burgers versterken. Denk bijvoorbeeld aan het kunnen indienen van klachten en het krijgen van uitleg over beslissingen met behulp van AI-systemen.

Volgende stap

De Europese Commissie, de Europese Raad en het Europees Parlement gaan nu onderhandelen om tot een definitieve tekst van de AI Act te komen. Europa wil nog dit jaar tot overeenstemming te komen. Zodra de AI Act in werking is getreden, wordt deze 24 maanden daarna van toepassing. Men verwacht dat dit medio 2026 zal zijn.