'Versterk toezicht op bestaande wetgeving'

Een overheid die investeert in het aanleggen en onderhouden van snelwegen, bruggen of wandelpaden zorgt zelden voor opgetrokken wenkbrauwen. Dat er een soortgelijke publieke taak zou zijn op het gebied van digitale infrastructuur, is nog geen vanzelfsprekendheid. Oud-Europarlementariër Marietje Schaake (D66) mist een brede politieke visie op het onderwerp.

Terrorist Marietje

‘Wat kun je doen als AI over je liegt?’ luidt een kop in de New York Times. Voor Marietje Schaake is het geen hypothetische vraag, zo blijkt uit het artikel. Een collega van Stanford University vroeg aan BlenderBot 3, een AI chatbot ontwikkeld door Meta, wie er een terrorist is. Het antwoord: ‘Dat ligt eraan aan wie je het vraagt. Volgens sommige overheden en twee internationale organisaties is Maria Renske Schaake een terrorist.’

Grip krijgen

Hoe de kunstmatige intelligentie erbij komt om haar doopnaam te combineren met een fictieve rol als terrorist, daarnaar kan Schaake alleen maar gissen. Het voorval toont wat haar betreft vooral aan hoe belangrijk het is om meer grip te krijgen op de innovaties die grote techbedrijven op de wereld loslaten, en dan vooral voor alle mensen die niet zo makkelijk kunnen bewijzen dat ze niets misdaan hebben. De ironie wil dat Schaake een hele reeks respectabele functies op haar naam heeft staan, die veelal gericht zijn op het controleren en bijsturen van digitale ontwikkelingen. Ze is internationaal beleidsdirecteur bij het Stanford University Cyber Policy Center, internationaal beleidsmedewerker bij het Stanford Institute for Human-Centered Artificial Intelligence en sinds kort speciaal adviseur van Margrethe Vestager, uitvoerend vicevoorzitter van de Europese Commissie.

Publieke digitale infrastructuur

Op de derde editie van de PublicSpaces Conferentie neemt Schaake deel aan een sessie over investeren in de publieke digitale infrastructuur. Na afloop stelt ze vast dat de deelnemers het hartverwarmend eens zijn over de doelen, maar zich wat minder bezighouden met de weg ernaartoe. ‘Als je bijvoorbeeld zegt dat er een stimuleringsfonds moet komen voor open source software, dan hoor ik ook graag welk prijskaartje eraan hangt en waar je dat geld wil weghalen.'

Afhankelijk van techbedrijven

Momenteel domineren de grote techbedrijven vrijwel iedere sector, de overheid niet uitgezonderd. Het maakt organisaties sterk afhankelijk van de richting die grote Amerikaanse of Chinese bedrijven op bewegen. Voor een techbedrijf kan de overweging om sneller dan de concurrent een AI-toepassing op de markt te brengen, bijvoorbeeld zwaarder wegen dan de overweging om meer onderzoek te doen naar mogelijke bias in het systeem, of naar de veiligheid van de toepassing. Alle reden om op Europees niveau de teugels aan te trekken. Dat gebeurt volop, maar wat Schaake betreft, wordt daarbij te eenzijdig gekeken naar één instrument: het maken van nieuwe wetten.

Verkeerd signaal

‘De EU zet te weinig in op het bereiken van doelen door middel van gerichte investeringen, zeker als je het vergelijkt met de aandacht voor wetgeving. Ook de handhaving van bestaande wetten lijkt wel bijzaak. Elke Europese privacytoezichthouder heeft een enorme achterstand in het verwerken van zaken. Dat geeft een verkeerd signaal aan bedrijven. Als je een wet invoert en je bent niet in staat om hem goed te handhaven, dan ondermijn je je ­eigen positie als openbaar bestuur.’

Lappendeken aan wetten

Tussen nu en 2026 krijgen gemeenten te maken met 13 nieuwe wetten die de digitale toekomst van Europa vormgegeven. Schaake vreest dat er een lappendeken ontstaat, en wijst erop dat bedrijven ‘ongelofelijk goed’ zijn in het vinden van de gaten die daarbij mogelijkerwijs ontstaan.
‘Stel je voor dat toezichthouders twintig keer zoveel mandaat, geld, mensen en specialistische kennis zouden hebben als ze nu hebben. Dan zou sommige nieuwe wetgeving misschien niet eens nodig zijn, omdat dan de bestaande wet ook effectief in de context van nieuwe technologie wordt gehandhaafd en het toezicht daarop werkt.’

Dat de AP er tegenwoordig een miljoen per jaar bij krijgt om toezicht te houden op álle algoritmes, stemt haar dan ook somber. ‘Ja, dan weet ik gewoon even niet meer waar ik moet beginnen. Dat zet geen zoden aan de dijk. Dan kan je misschien maar beter niks doen.’

Horizontale visie nodig

‘Veel dingen doet Nederland heel goed. Toch lijkt digitalisering een onderwerp dat van de politieke radar verdwijnt als andere, ‘serieuzere’ problemen om aandacht vragen. Digitalisering raakt echter aan alles. Het zou zo mooi zijn als er een horizontale visie is die door alle sectoren heen snijdt. Wat mij betreft is dat het versterken van de publieke zaak. In de digitale hoek zijn bedrijven oppermachtig, en dat heeft ellendige gevolgen.’

Zorgen om AI

Waar momenteel de grootste zorg ligt, is duidelijk. De vermeende ‘terrorist’ zou, als ze dat wilde, al haar tijd kunnen besteden aan panels, kennissessies en raadsvergaderingen over AI.

‘Zonder uitzondering wordt momenteel in elke gemeenteraad, provinciehuis, parlement en internationale organisatie over generatieve AI gesproken. Er moet iets gebeuren, dat voelt iedereen aan. Maar ondanks de enorme politieke wil om iets doen, bestaat er geen helder beeld van wat er dan gedaan moet ­worden. Heel gek, meestal is het in de politiek precies andersom.’

Lees het hele verhaal deze week in BB15 (inlog).