Onderhandelingen AI Act op kritiek punt

De onderhandelingen over de AI Act, de Europese wetgeving in wording over kunstmatige intelligentie, bevinden zich op een kritiek punt. Frankrijk, Duitsland en Italië willen dat de AI-modellen achter zogeheten generatieve kunstmatige intelligentie niet onder deze wet vallen. Dat zou betekenen dat de bedrijven achter ChatGPT en vergelijkbare systemen zichzelf mogen reguleren.

Hoe onschuldig is ChatGPT?

Eigenlijk was de AI-wet al bijna af toen ChatGPT zijn intrede deed. Dat leverde stress op in Brussel, want AI die je voor allerlei doelen kunt inzetten, past eigenlijk niet helemaal in het model van de AI Act, dat ervan uitgaat dat er voor AI verschillende risiconiveaus bestaan. Kun je zeggen dat generatieve AI een risico vormt voor de inwoners van de EU? Niet als iedereen ChatGPT alleen gebruikt als hulpmiddel bij het schrijven van bijvoorbeeld Sinterklaasgedichten. Maar er zijn wel degelijk minder onschuldige toepassingen denkbaar, zoals het genereren van grote hoeveelheden desinformatie.

‘Voor het Europees Parlement is het cruciaal dat de regels ook gelden voor ChatGPT,’ zegt Europarlementariër Kim van Sparrentak (GroenLinks) tegen Binnenlands Bestuur. ‘We staan op  het punt om AI te reguleren. Als je dan datgenen waar de mensen zich zorgen over maken erbuiten laat, sla je gewoon een flater.’

Europese techlobby: 'overregulering'

In oktober leek er nog consensus te zijn over de plek van generatieve AI in de Europese regels, maar  onder invloed van het Duitse AI-bedrijf Aleph Alpha en het Franse Mistral veranderden drie grote lidstaten van gedachten. Volgens deze bedrijven zorgt de AI Act voor overregulering die hun voortbestaan in gevaar brengt.

Hebben Aleph Alpha en Mistral een punt? ‘Ik denk dat ze geen regels willen omdat investeerders dat niet leuk vinden,’ reageert Van Sparrentak. ‘Wij zeggen dat ze transparant moeten zijn, dat ze ervoor moeten zorgen dat ze niet zomaar gehackt kunnen worden en dat ze hun systeem op zo’n manier moeten maken dat ze niet alle energie opslurpen. En dat ze een beetje opletten dat er bijvoorbeeld geen racistische drek uit hun modellen komt. Dat lijken mij basisvoorwaarden voor een fatsoenlijk AI-systeem.’

Verplichte zelfregulering

Op 10 november liepen de onderhandelingen stuk op de houding van Frankrijk, Duitsland en Italië. Het voorzitterschap van Spanje probeerde te bemiddelen tussen deze landen en het Europees Parlement, maar gisteren bleek dat de lidstaten niet van plan zijn bij te draaien. Ze zijn gevoelig voor het argument dat de nieuwe regels de Europese innovatiekracht schaden. Daarom zijn ze voorstander van verplichte zelfregulering voor bedrijven die generatieve AI op de markt brengen.     

De Europese Commissie en het Parlement vinden beide dat de regels voor grotere modellen best strenger kunnen zijn dan voor kleinere modellen, afhankelijk van de impact. Maar in vrijwillige afspraken met de sector geloven ze niet. ‘Die fouten hebben we vaak genoeg ook al gemaakt met andere techbedrijven,’ zegt Van Sparrentak. ‘Dat is echt een no-go.’

Maatschappelijke druk nodig

Ze heeft vertrouwen in een goede afloop. ‘Ik heb het gevoel dat de mensen die de lobby van de Europese AI-bedrijven hebben ontvangen, die nog extremer hebben geïnterpreteerd. Op den duur zal het kwartje vallen dat heel grote modellen echt wel strenge regels nodig hebben. Maar daarvoor hebben we druk nodig uit de maatschappij.’

Die druk begint op gang te komen. Europese academici laten weten dat ze zich zorgen maken over de ontwikkelingen in Brussel. Zij zijn bang dat de AI Act op het laatste moment mislukt en ze waarschuwen dat dit roekeloos zou zijn. ‘Bijna 500 miljoen mensen dreigen onbeschermd te zullen blijven tegen de bekende gevaren van AI,’ schrijven ze.

Deadline

Het is de bedoeling dat de AI-wet klaar is voordat er een nieuw Europees Parlement wordt gekozen, in juni 2024. Maar of dat nog gaat lukken? In december zouden de trialoog-onderhandelingen tussen de Commissie, het Parlement en de Raad van de EU moeten zijn afgerond. Als er in december geen overeenkomst wordt bereikt, wordt het moeilijk om dat nog voor elkaar te krijgen.