Slechts een op drie gemeenten heeft beleid over inzet AI

Bijna de helft van de gemeenten experimenteert met kunstmatige intelligentie (AI). Er worden stappen gezet om duidelijke kaders te formuleren, maar dit gaat niet zonder enkele grote uitdagingen. De AI Monitor Gemeenten 2024, een onderzoek van M&I/Partners, heeft de stand van AI bij gemeenten in kaart gebracht.

Hoewel 71 procent van de gemeenten werkt aan een AI-visie en strategie, ontbreekt het bij veel gemeenten aan concrete beleidskaders, zo schrijven de rapporteurs. Slechts 32 procent heeft formeel beleid geformuleerd over de inzet van AI, terwijl 45 procent aangeeft hier nog aan te werken. Gemeenten ervaren uitdagingen bij het strategisch positioneren van AI binnen de organisatie. De snelle technologische ontwikkelingen maken dat beleid snel veroudert, wat risico’s met zich meebrengt voor transparantie en controle.

Verantwoord gebruik en AI-geletterdheid

Een ander aandachtspunt is de bewustwording en kennis van AI onder gemeentepersoneel. Veel medewerkers weten niet hoe ze AI op een verantwoorde manier kunnen inzetten. Dit kan leiden tot ondoordacht en mogelijk risicovol gebruik. Daarnaast blijkt dat veel AI-tools zonder toezicht van IT-afdelingen worden gebruikt, wat controle bemoeilijkt. Gemeenten investeren daarom steeds vaker in AI-trainingen en bewustwordingsprogramma’s om medewerkers beter toe te rusten.

Privacy, veiligheid en ethische vraagstukken

Gemeenten lopen tegen verschillende ethische en juridische uitdagingen aan bij het gebruik van AI. Het waarborgen van privacy en het voldoen aan wet- en regelgeving, zoals de AI Act, blijkt complex. Transparantie over hoe AI-beslissingen tot stand komen is essentieel, maar moeilijk te realiseren. Ook wordt AI nog niet ingezet bij gevoelige processen, zoals personeelsselectie, om discriminatie en bias te voorkomen.

Technologische beperkingen en grip op AI-tools

De toegankelijkheid van AI-tools is zowel een zegen als een uitdaging. Veel AI-tools zijn vrij beschikbaar en kennen geen licentie of installatie vereisten, waardoor gebruikers deze zelfstandig kunnen inzetten zonder ondersteuning van de ICT-afdeling. ‘Dit verslechterd de grip van de organisatie op de inzet van AI-tools. Een ander aandachtspunt is dat de basisvoorwaarden moeten worden geregeld om een goede output te behalen’, zo schrijven de rapporteurs. Het houdt in dat data en documenten goed gelabeld moeten worden en ook de kwaliteit beheerd moet worden. Ten slotte wordt de transparantie vanuit leveranciers over de werking en inzet van AI gezien als een uitdaging.