Samenwerking is essentieel voor verantwoorde inzet AI
Twee nieuwe publicaties van de VNG bieden inzicht in de afwegingen die gemeenten moeten maken voordat ze AI en algoritmes inzetten.
Hoe zetten gemeenten AI en algoritmes verantwoord in? De VNG biedt hulp in de vorm van twee publicaties. Een position paper beschrijft wat de huidige stand van zaken is, waar de gemeenten naartoe willen en hoe ze daar denken te komen. Een trendanalyse biedt concrete handvaten voor het verantwoord ontwikkelen, inkopen en toepassen van AI en algoritmes.
Position paper
De position paper begint met een reeks argumenten voor terughoudendheid met de inzet van AI en algoritmes. Het Toeslagenschandaal heeft voor eens en altijd duidelijk gemaakt hoe algoritmes institutioneel racisme en uitsluiting kunnen ondersteunen en versterken. Daarnaast is de beschikbare technologie hoofdzakelijk in handen van Amerikaanse big techbedrijven waarvan Nederland minder afhankelijk wil worden. De VNG noemt ook de duurzaamheidsambities van gemeenten, die flink schuren met de inzet van AI. ‘Durven we met elkaar, gemeenten onderling en interbestuurlijk, […] het gesprek over verantwoordelijkheid te voeren?’ vragen de opstellers van de position paper zich retorisch af, om te besluiten met een vrolijk ‘Ja. Dit kunnen wij!’
De AI-opgave is een overheidsbrede opgave, benadrukt de VNG. Gemeenten kunnen en moeten deze opgave niet zelfstandig oppakken. Verantwoorde inzet van AI vraagt om coördinatie en ondersteuning van de rijksoverheid. ‘Alleen door samenwerking, kennisdeling, het centraal stellen van publieke waarden en de maatschappelijke opgaven kan AI bijdragen aan een sterkere, inclusievere samenleving waarin technologie een middel is, en nooit een doel op zich.’
Waar te beginnen met AI?
De position paper bevat een aantal adviezen voor startende gemeenten (dit is geen volledig overzicht van de te nemen maatregelen).
• Zorg voor politiek-bestuurlijk bewustzijn over AI & algoritmen en voor mandaat om verantwoord met de technologie aan de slag te gaan.
• Richt een governancestructuur in die aansluit bij de bestaande processen, zodat er integrale besluitvorming plaatsvindt.
• Werk aan digitale geletterdheid in de breedte van de organisatie.
• Richt een robuuste informatiehuishouding op, gebaseerd op architectuur-principes die de basis zijn voor het werken met AI & algoritmen.
• Zorg voor duidelijke inkoopvoorwaarden en stevig leveranciersmanagement die de ambities van de organisatie dienen, waarbij gelet wordt op de mate van digitale afhankelijkheid en dataeigenaarschap.
Trendanalyse
De trendanalyse gaat in op de praktische, verantwoorde toepassing van AI en algoritmes door gemeenten. Gemeenten zijn al grootgebruiker van AI en algoritmes, onderzocht TNO. Het aandeel generatieve AI daarin is relatief klein. Wat houdt een ‘verantwoorde inzet’ nou precies in? De definitie is tweeledig: enerzijds uitlegbaar en gerechtvaardigd, anderzijds op een manier waarbij publieke waarden worden geborgd en digitale grondrechten van inwoners worden beschermd.
Wat kun je er dan zoal mee? Ter inspiratie: de VNG financiert en begeleidt vijftien pilots waarbij AI wordt ingezet om arbeidsmarktkrapte op te vangen. Verschillende gemeenten maken gebruik van de virtuele assistent GEM, die met behulp van bestaande data en AI antwoord geeft op allerlei vragen van burgers (dit is een voorbeeld van genAI).
In de trendanalyse waarschuwt de koepelorganisatie dat de inzet van AI en algoritmen niet altijd de beste oplossing is voor de taken en uitdagingen waar gemeenten mee te maken hebben en dat het gebruik ervan risico’s met zich meebrengt. Eén van de vragen die een gemeente zich moet stellen, is of de informatiehuishouding wel van voldoende kwaliteit is om er een AI-toepassing op te baseren. Uit onderzoek van Binnenlands Bestuur en de Vereniging van Gemeentesecretarissen (VGS) blijkt dat dit lang niet altijd het geval is.
Instrumenten en kaders
De verantwoorde inzet van AI en algoritmes is een complex vraagstuk. Gelukkig zijn er allerlei instrumenten en kaders om gemeenten op weg te helpen.
- Impact Assessment Mensenrechten en Algoritmes (IAMA) dat ontwikkeld is door de Data School van de Universiteit Utrecht in opdracht van het Ministerie van Binnenlandse Zaken (BZK).
- Onderzoekskader Algoritmes, ontwikkeld door de Auditdienst Rijk
- Implementatiekader verantwoorde inzet van algoritmen ontwikkeld door BZK.
- Handreiking non-discriminatie by design (pdf, 5 MB) ontwikkeld door wetenschappers en het College voor de Rechten van de Mens in opdracht van BZK.
- Toetsingskader risicoprofilering ontwikkeld door het College voor de Rechten van de Mens
- Algoritmekader, in ontwikkeling bij BZK.
Samenwerking
'Er is winst te behalen op het gebied van collectivisering en krachtenbundeling' luidt de conclusie van de trendanalyse. Veel gemeenten gebruiken dezelfde ingekochte applicaties. Het is slim om de krachten te bundelen, bijvoorbeeld voor het samen uitvoeren van risico-assessments en het organiseren van training en standaardisatie. Er wordt ook gesproken over de oprichting van regionale ethische commissies en het gezamenlijk uitvoeren van een mensenrechtentoets, zoals het IAMA. Werkt een toepassing naar tevredenheid? Kies voor een efficiënte inzet van publiek geld en schaal op naar andere gemeenten.
Plaats als eerste een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.