Zsolt Szabó: Ambtenaren krijgen meer ruimte voor AI

De AI-geletterdheid van overheidsmedewerkers moet omhoog. Dit is een belangrijk element in het ‘Overheidsbreed standpunt voor de inzet van generatieve AI’. Er moeten trainingen komen om ze te informeren over het effectief en verantwoord gebruiken van generatieve AI. ‘Ik vind dat dit trainingen op dit vlak verplicht moeten worden, net als rond digitalisering en digitale weerbaarheid’, zegt staatssecretaris Zsolt Szabó in een interview met iBestuur, waarin hij reageert op de gisteren gepubliceerde Handreiking Generatieve AI.

Generatieve AI biedt overheidsorganisaties nieuwe kansen voor het verbeteren van de dienstverlening en de aanpak van maatschappelijke vraagstukken. Maar de risico’s zijn groot, zeker als ambtenaren de technologie onzorgvuldig inzetten. Het kabinet stimuleert de ontwikkeling van innovatieve toepassingen van generatieve AI, maar benadrukt dat overheden bij het gebruik steeds nut en noodzaak moeten vaststellen, een risico-analyse moeten maken en waarborgen creëren voor de veiligheid zoals een plan voor stopzetting.

De ‘Handreiking Generatieve AI’ die gisteren werd gepubliceerd gaat dieper in op de praktische stappen die overheden kunnen zetten om aan het beleid te voldoen. Er staan concrete tips in voor het inkopen, gebruiken en evalueren van AI-toepassingen en behandelt de juridische, ethische én veiligheidsaspecten.

AI-training wordt verplicht

De AI-geletterdheid van overheidsmedewerkers moet omhoog. Dit is een belangrijk element in het ‘Overheidsbreed standpunt voor de inzet van generatieve AI’. Er moeten trainingen komen om ze te informeren over het effectief en verantwoord gebruiken van generatieve AI. ‘Ik vind dat dit trainingen op dit vlak verplicht moeten worden, net als rond digitalisering en digitale weerbaarheid’, zegt staatssecretaris Zsolt Szabó in een toelichting op de vandaag gepubliceerde documenten. ‘Het kan niet zo zijn dat de mensen die iedere dag bezig zijn met dit onderwerp denken dat ze zo’n training niet nodig hebben.’ Er zijn al diverse opleidingen in de maak onder de vlag van de RijksAcademie voor Digitalisering en Informatisering Overheid (RADIO). ‘We zijn in het kader van de digitaliseringsstrategie ook bezig met i-vakmanschap. AI is daar een heel belangrijke pijler in. Dan gaat het om de basisvaardigheden waar eigenlijk elke ambtenaar over moet beschikken’, vult Jasper Kars, een van de mede-opstellers van de beide documenten. Alle overheidsorganisaties moeten aan de verplichte trainingseisen voldoen, zowel voor individueel als projectmatig gebruik. Ook externe partijen die diensten met generatieve AI leveren aan de overheid, vallen onder het genAI-beleid.

AI-fabriek

Om innovatie met AI te stimuleren werd begin vorig jaar een AI-testfaciliteit aangekondigd in ‘Overheidsbrede visie op generatieve AI’ van toenmalig staatssecretaris Digitale Zaken, Alexandra van Huffelen. In de vandaag gepubliceerde documenten staat daar niets meer over. Szabó: ‘Dat onderwerp valt nu onder de verantwoordelijkheid van Economische Zaken. De testfaciliteit is inmiddels hernoemd tot AI-fabriek en daar is in maart over gecommuniceerd.’ Hij somt wel een hele reeks experimenten op waarin overheden nu met AI bezig zijn. Zo is de gemeente Amsterdam bezig bezwaarschriften sneller te behandelen met de inzet van generatieve AI. ‘We hebben bij de provincie Zuid-Holland een GPT draaien, Defensie heeft er één, net als Justitie. We hebben TNO gevraagd die ontwikkelingen te evalueren. In het derde kwartaal verwachten we weer een monitor over wat de overheid doet met genAI.’

Toezichtstructuur

De ‘Overheidsbrede visie op generatieve AI’ die het kabinet in januari 2024 publiceerde, legde ook al de nadruk op de ontwikkeling van nieuwe toezichtstructuren, bijvoorbeeld om de Europese AI-Act te handhaven. In het huidige ‘Overheidsbreed standpunt voor de inzet van generatieve AI’ maakt het kabinet duidelijk dat overheidsorganisaties primair zelf verantwoordelijk zijn voor de naleving en verplicht zijn intern toezicht te organiseren. Alleen bij twijfel of complexe risico’s kunnen zij bijvoorbeeld de Autoriteit Persoonsgegevens inschakelen. Kars: ‘Daar komt binnenkort meer duidelijkheid over. Er is in Brussel een Europese toezichtstructuur ontworpen die op 2 augustus van kracht wordt. In Nederland zijn we bijna klaar met het vraagstuk hoe we het nationale toezicht gaan organiseren. De toezichthouders hebben daar eerder dit jaar al een advies over uitgebracht.’

Europese alternatieven gaan voor

Szabó hamert erop dat geprobeerd moet worden zoveel mogelijk gebruik te maken van Europese alternatieven voor AI-toepassingen waar die voorhanden zijn. Er komt een verbod voor overheidsmedewerkers om gebruik te maken van consumenten-AI zonder dat afspraken zijn gemaakt met de leveranciers via een DPIA. Hoe zo’n verbod afgedwongen gaat worden, is nog niet uitgekristalliseerd. Szabó: ‘Het is een redelijk nieuw onderwerp waarbij we de regie nu proberen beter in te richten. We komen op 6 juni met de Nederlandse Digitaliseringsstrategie, die nu in concept op tafel ligt en waarover samen met de mede-overheden politieke besluitvorming plaatsvindt. Het is nu in ieder geval bekend dat overheden geen consumenten-AI mogen gebruiken, bijvoorbeeld ook geen DeepSeek. Maar we moeten de regie oppakken en consistente boodschappen communiceren naar de ambtenaren op alle niveaus.’

Dit interview verscheen eerder op iBestuur.