Van Huffelen: hoe AI verantwoord te blijven gebruiken?

Er zijn belangrijke instrumenten ontwikkeld voor het verantwoordelijk gebruik van kunstmatige intelligentie (AI) en de uitdaging is om die consequent toe te gaan passen. Dat zei staatssecretaris Van Huffelen (Digitalisering, D66) afgelopen week in haar speech op een evenement van de Nederlandse AI Coalitie.

Juist vanwege toeslagen

Van Huffelen prees ELSA labs, een initiatief van de AI Coalitie om te zorgen dat overheden, bedrijven en kennisinstellingen samen verantwoorde AI-toepassingen ontwikkelen. De staatssecretaris verwees naar haar vorige rol, het herstellen van de schade van de toeslagenaffaire, en benadrukte dat ‘juist vanwege de toeslagenaffaire’ de overheid het ELSA-lab ‘Armoede en Schulden’ ondersteunt. Binnenlandse Zaken trekt hiervoor subsidie uit en de eerste tranche daarvan bedraagt 800.000 euro.

Het doel van ‘Armoede en Schulden’ is volgens Van Huffelen ‘om te voorspellen in welke situaties mensen kans hebben om in armoede te raken - en om vervolgens de dienstverlening van de overheid aan deze mensen beter te maken’. De gebruikte instrumenten worden tijdens dit experiment geëvalueerd en het project moet de mensenrechten centraal stellen – wat bij de inzet van algoritmen door overheden zeker niet vanzelfsprekend is.

Andere ‘instrumenten’ die Van Huffelen noemde waren Code Kinderrechten Online, de handreiking voor Non-discriminatie by design, de Impact Assessment voor Mensenrechten bij de inzet van Algoritmen (IAMA) en het Toetsingskader voor Algoritmen van de Algemene Rekenkamer. ‘Deze instrumenten helpen AI-ontwikkelaars om mensenrechten centraal te stellen— van het eerste idee tot en met de uitvoering.’

Europese strategie

Van Huffelen ging ook in op de Artificial Intelligence Act, een van de verordeningen waarmee de Europese Unie grip op data probeert te krijgen. Volgens de staatssecretaris is het een goede zaak dat er zoveel mogelijk verplichte certificering komt voor AI-systemen, dat er zoveel mogelijk risico-inschattingen komen voor ontwikkelaars en gebruikers en dat mensen erbij centraal staan. Voor de handhaving wordt de positie van de Autoriteit Persoonsgegevens versterkt en wordt de Nederlandse algoritmewaakhond bij hen ondergebracht.

De Vereniging van Nederlandse Gemeenten (VNG) vroeg onlangs aandacht voor de uitvoerbaarheid van de AI-verordening. De VNG is er ‘overwegend positief’ over, maar met name over de uitvoering zou nog veel onduidelijk zijn. De gemeentekoepel vraagt de Europese Commissie onder andere om meer duidelijkheid te scheppen in de verdeling tussen leveranciers van AI en gebruikers. 

Een inkopende gemeente moet, schrijft de VNG, ‘door onduidelijkheden in de verordening niet onbedoeld in de rol van leverancier komen, en opgezadeld zitten met de administratieve lasten die eigenlijk bij de productontwikkelaar horen’. En verder vindt de VNG dat ‘de definitie van het begrip AI’ niet zodanig vernauwd moet worden ‘dat zaken zoals de toeslagenaffaire hier niet meer onder vallen’.