'Als we niet experimenteren met AI, raken we achterop'

Per februari volgend jaar moeten organisaties die met AI-systemen werken zorgen dat hun medewerkers AI-geletterd zijn. Daar hoort voor Hillie Beentjes, directeur Digitale Samenleving van BZK, bij dat ambtenaren verantwoord experimenteren met AI-toepassingen. ‘Want we gaan gewoon achterlopen als we niet mogen experimenteren.’

Niet té voorzichtig

Vanaf het moment dat ChatGPT in november 2022 wereldwijd zijn intrede deed, is er binnen de rijksoverheid veel aandacht geweest voor de risico’s van het gebruik van generatieve AI (GenAI). De terughoudendheid vanuit het rijk komt onder meer omdat je bij zelflerende AI-modellen niet precies weet hoe een systeem tot een uitkomst komt. Dat maakt keuzes gebaseerd op uitkomsten van dergelijke AI-toepassingen niet goed uitlegbaar of reproduceerbaar, wat voor een overheid toch wel een voorwaarde is.

Met de inwerkingtreding van de AI-verordening gelden er bovendien allerlei nieuwe verplichtingen voor overheden, zoals transparantie over de hoogrisico AI-systemen die ze gebruiken. Allemaal heel nuttig, maar ambtenaren moeten ook weer niet zó voorzichtig worden dat ze liever helemaal wegblijven van AI, vindt Hillie Beentjes, directeur Digitale Samenleving bij het ministerie van Binnenlandse Zaken (BZK). AI is er méér dan alleen GenAI, en lang niet iedere AI-toepassing is bij voorbaat onbruikbaar voor de overheid. Neem de ruimte om te experimenteren, maar doe dat wel verantwoord en veilig, is haar boodschap.

Hulpmiddel

‘AI kan een goed hulpmiddel zijn voor ambtenaren, bijvoorbeeld bij de interpretatie van de Omgevingswet’, zegt Beentjes. ‘Je kunt AI gebruiken om de juiste openbare informatie te vinden, om ingewikkelde teksten te vereenvoudigen en om grote hoeveelheden informatie samen te vatten. Dat kan allemaal helpen bij het beantwoorden van vragen. Gebruik AI vooral om de primaire processen te ondersteunen.’ Haar advies: niet experimenteren met AI op onderwerpen waar persoonsgegevens aan te pas komen. Kies voor een risicoloos onderwerp om te onderzoeken wat wel en niet werkt. En houd de menselijke factor in de gaten. ‘Om te weten wat werkt, heb je wel mensen nodig die inhoudelijk verstand van zaken hebben.’

Ook zelflerende algoritmen zijn wat haar betreft niet bij voorbaat een no-go. ‘Het is te kort door de bocht om te zeggen dat het niet past binnen de overheid. Het past de overheid om voorzichtig te zijn, maar om te weten hoe je iets kunt gebruiken, moet je het wel kunnen uitproberen.’

Experimenten opschalen

Veel overheidsorganisaties maken al lang gebruik van AI, maar weten veelal niet precies wat er bij de buren gebeurt. Daar heeft de directie Digitale Samenleving een rol in te vervullen. Beentjes: ‘Hoe kun je al die verschillende experimenten opschalen zodat het breder toepasbaar wordt? Daarover zijn we hard aan het nadenken. Het begint met het in verbinding brengen van mensen die iets maken en mensen die op zoek zijn naar een toepassing.’

Het algoritmeregister kan daarbij een rol spelen. Het Nederlandse algoritmeregister is bedoeld om meer transparantie te scheppen over het gebruik van impactvolle algoritmes door de overheid, maar kan ook dienstdoen als een database voor overheden op zoek naar inspiratie of goede voorbeelden. ‘Kijk er vooral in als je van plan bent om een toepassing te laten bouwen’, moedigt Beentjes aan. ‘Misschien heeft een andere overheid het al voor jou gedaan.’

Community's

Nog los van de toepassingen zouden overheidsorganisaties ook veel meer van elkaar kunnen leren over verantwoord gebruik van AI, denkt ze. ‘Als iemand al helemaal heeft uitgevogeld wat er moet gebeuren om te voldoen aan de AI-verordening, dan zou je die persoon moeten kunnen raadplegen.’

Community’s rondom AI en de overheid zijn er volop, onder meer binnen de Nederlandse AI-coalitie, maar nog niet iedereen weet elkaar te vinden. De directie inventariseert momenteel wat er allemaal gebeurt op het gebied van AI en overweegt om een specifieke community in het leven te roepen, gericht op het opschalen van experimenten en het delen van best practices met AI.

AI-geletterdheid

Onlangs betoogde internetondernemer Alexander Klöpping op binnenlands­bestuur.nl dat we van beslissers en
leiders mogen verwachten dat ze méér doen om aan den lijve te ondervinden hoe snel de technologische vooruitgang gaat. ‘Het is zinloos om over AI te praten als je het niet op een individueel niveau doorvoelt’, zei hij bij die gelegenheid. Beentjes kan zich wel in die uitspraak vinden. ‘Ik vind ook dat een ambtenaar moet weten wat er mogelijk is. Als een inwoner thuis zaken uitzoekt met AI en jij zit achter een balie en je hebt geen idee hoe dat nou kan, dan kun je ook niet serieus met zo iemand in gesprek gaan. Dit sluit ook aan bij AI-geletterdheid.’

Vanaf februari 2025 zijn organisaties die met AI werken verplicht om te zorgen dat hun medewerkers AI-geletterd zijn. Voor de rijksoverheid biedt RADIO (RijksAcademie voor Digitalisering en Informatisering Overheid) diverse AI-cursussen aan, maar decentrale overheden zijn zelf verantwoordelijk voor het opleiden van de medewerkers. In de gedroomde toekomst van Beentjes loopt het veel meer in elkaar over. ‘We zijn aan het bekijken of we elkaar daar niet bij kunnen helpen. Het is toch zonde als je niet over en weer gebruikmaakt van het aanbod? ‘Voor een deel gebeurt dat al: na een succesvolle pilot is het RADIO Leerplatform toegankelijk gemaakt voor medewerkers van andere overheden. Gemeenteambtenaren volgen er gratis e-learnings en gemeenten kunnen zelf ook e-learnings op het platform plaatsen.

Lees het hele artikel deze week in BB23 (inlog).