Gemeenten grootgebruikers van anonimiseringstools

Het gebruik van AI-toepassingen door de overheid neemt snel toe. Dat blijkt uit een verkennende studie die is uitgevoerd door TNO en die werd gepresenteerd op het Nederlandse AI Congres 2024. Voor het eerst zijn er meer voorbeelden gevonden van implementatie dan van toepassingen in de experimenteerfase.

Vaker voorbij de experimenteerfase

De quickscan werd uitgevoerd op verzoek van de werkgroep publieke diensten van de Nederlandse AI Coalitie. Het is een vervolg op de quickscan AI in de publieke dienstverlening uit 2019 en 2021. In vergelijking met 2021 zijn er 1,5 keer zoveel AI-toepassingen gevonden binnen de overheid. Voor het eerst vinden de onderzoekers meer voorbeelden van implementatie (102) dan van toepassingen in de experimenteerfase (95).

Geen ChatGPT

Het onderzoek is gebaseerd op voorbeelden van AI-gebruik die TNO zelf kon vinden of die werden aangeleverd, in een combinatie van desk research, een enquête onder overheidsorganisaties en een online zoektocht. De onderzoekers maakten onderscheid tussen datagedreven en regelgebaseerde algoritmes. De tweede groep bestaat uit geautomatiseerde rekenregels (als, dan…) en werd ditmaal buiten de scope gelaten, in tegenstelling tot in de eerdere verkenningen. Het gevolg is dat veel toepassingen uit het sociaal domein in deze verkenning buiten de boot vallen. Ook individueel gebruik van tools door een ambtenaar, bijvoorbeeld de inzet van ChatGPT, valt buiten het onderzoek.

Vooral anonimiseringstools

In totaal vonden de onderzoekers 266 AI-toepassingen bij overheidsorganisaties. De meeste vallen in de categorie ‘kennisverwerking, archivering en anonimisering’. Onder invloed van de Wet open overheid (Woo) is de inzet van anonimiseringssoftware sterk toegenomen, concluderen zij. Van de 60 toepassingen in deze categorie waren er 46 anonimiseringstools.

De meeste AI-toepassingen (105) worden gebruikt door gemeenten. Met name de anonimiseringstools, ingekocht van private partijen, zijn bij gemeenten in trek. Ook worden relatief veel (46) tools ontwikkeld of aangekocht in samenwerkingsverbanden. Daarnaast vallen veel toepassingen in de categorie inspectie & handhaving en de categorie procesoptimalisatie.

Weinig genAI

TNO categoriseerde ook de toegepaste technieken. Er wordt het meest gebruikgemaakt van beeldherkenning (82 toepassingen) en spraak- en tekstherkenning en NLP (70 toepassingen; ook de kleinere anonimiseringstools vallen hieronder). Machine learning komt op de derde plek met 62 toepassingen.

Opvallend is dat er slechts 8 toepassingen gebruikmaken van generatieve AI en LLM’s. Daaruit kan niet worden geconcludeerd dat de overheid nog nauwelijks genAI inzet. De verklaring van TNO is dat genAI kan worden gezien als een online dienst, die veelal door individuen  binnen een organisatie wordt gebruikt (zogeheten shadow IT). De onderzoekers merken op dat overheidsorganisaties terughoudend zijn in hun communicatie over het gebruik van genAI en dat veel experimenten nog in de kinderschoenen staan. Een voorbeeld van de inzet van genAI is CODI, de virtuele beleidsassistent, die overheden bijstaat in het beantwoorden van Kamervragen.

De onderzoekers vonden ook een voorbeeld van algoritmisch management, in de vorm van een algoritme voor de slimme inzet van inspecteurs van Rijkswaterstaat.

Meer transparantie

Door de komst van het algoritmeregister neemt de transparantie over het gebruik van AI-toepassingen door de overheid toe, merken de onderzoekers op. In vergelijking met voorgaande onderzoeken is met name beter te achterhalen welke technieken precies worden gebruikt.