De wereld als proeftuin voor AI-leveranciers?

Met de AI Act maakt de Europese Unie helder onder welke voorwaarden kunstmatige intelligentie in de EU mag worden ingezet. Je zou het een vorm van verzet kunnen noemen. ‘Er is nog veel meer maatschappelijk debat nodig over AI.’

AI Act als vorm van verzet?

Naar alle waarschijnlijkheid treedt de AI Act in 2026 in werking. Kunnen we de verordening zien als een vorm van verzet tegen bedrijven voor wie de wereld een proeftuin is voor technologische ontwikkelingen? Dat ligt eraan aan wie je het vraagt. ‘Vooropgesteld: die bedrijven doen niets wat niet mag’, zegt Gabriela Ramos, adjunct-directeur generaal voor Sociale en Geesteswetenschappen van UNESCO. ‘Bedrijven zullen altijd gebruikmaken van te losse regulering. Het is de verantwoordelijkheid van overheden om excessen in de markt te corrigeren.’

Blauwdruk voor wetgeving

In opdracht van de Europese Commissie en de Europese toezichthouders stelt UNESCO momenteel een kader op voor het toezicht op AI. Bij de aankondiging van deze samenwerking, in oktober 2023, sprak Binnenlands Bestuur met Ramos. ‘Europa loopt voorop, maar ik kan je vertellen dat overheden wereldwijd er precies hetzelfde over denken,' zei ze bij deze gelegenheid. UNESCO overlegt met vrijwel alle landen wereldwijd over de omgang met AI. En hoewel er grote verschillen zijn in de implementatie van AI en de rol van de overheid, zijn de meeste landen het volgens Ramos over de basisprincipes opvallend eens. De verwachting is dan ook dat veel landen, met name in Zuid-Amerika, de Europese AI Act zullen gebruiken als een blauwdruk voor eigen wetgeving over dit onderwerp.

Niet opnieuw vertrouwen op vrijwillige afspraken

Dat de onderhandelingen moeizaam verliepen, kwam onder andere omdat het Europees Parlement vastbesloten was om niet dezelfde fout te maken als toen men erop vertrouwde dat vrijwillige afspraken met de techbedrijven voldoende zouden zijn om Europa te beschermen tegen de nadelen van socialmediaplatforms. Maar om de AI Act een daad van verzet te noemen, gaat de Rijksinspectie Digitale Infrastructuur (RDI), voorzitter van de Europese werkgroep toezicht op AI, wat ver. ‘Het doel van de AI Act is het versterken van innovatie door het creëren van een level playing field’, zegt Angeline van Dijk, inspecteur-generaal bij de RDI. ‘Daarbij kijken we wat we maatschappelijk aanvaardbaar vinden. We staan voor bepaalde normen en waarden en ethische afwegingen, maar of dat verzet is?’

Recept voor een bom

‘De AI Act is in ieder geval geen verzet tegen big tech’, voegt Meindert Kamphuis eraan toe. Hij is  projectmanager Toezicht op AI bij de RDI. ‘Neem het AI-model van het Franse bedrijf Mistral. Dat geeft antwoord op alles, ook op de vraag hoe je een bom maakt.’ De vraag is: hoe krijg je krachtige AI-systemen zo ver dat hun doelen overeenkomen met wat het beste is voor mensen?

Niet toevallig was Mistral een van de aanvoerders van het verzet tégen de AI Act. Onder invloed van de Europese techlobby veranderden Frankrijk, Duitsland en Italië in het laatste stadium van de onderhandelingen van mening over het reguleren van zogeheten foundation models; systemen die met grote hoeveelheden data worden getraind om nieuwe teksten, afbeeldingen, video’s, geluiden of softwarecode te genereren. Volgens de lidstaten waren Europese start-ups meer gebaat bij zelf­regulering.
‘We hebben meer druk nodig vanuit de maatschappij’, zei Europarlementariër Kim van Sparrentak (GroenLinks) daarover in november tegen Binnenlands Bestuur. ‘De komst van ChatGPT werkte in ons voordeel toen we een parlementspositie schreven. Nu is die ophef weer weg en hebben de techbedrijven het gevoel dat ze hun gang kunnen gaan.’

Fundamentele keuzes

Voor Van Sparrentak is het een uitgemaakte zaak dat er meer maatschappelijk debat over AI nodig is, ook omdat beleidsmakers anders voornamelijk het geluid van de techlobby horen. ‘Met de AI Act bepalen we hoe je AI moet maken, maar lokale overheden hebben meer te zeggen over hoe je het gebruikt. Juist op dat niveau is meer discussie nodig. Willen wij slimme camera’s op straat? Willen wij dat een AI bepaalt wie er bijstand krijgt? Dat zijn fundamentele keuzes die bepalen hoe onze digitale toekomst eruitziet.’

Lees het volledige artikel in Binnenlands Bestuur nr. 24. (inlog)