Algoritmeregister maakt ambtenaren zelfbewust

Algoritmeregisters zijn het meest zichtbare onderdeel van een scala aan maatregelen waarmee overheidsorganisaties een goede omgang met algoritmes en algoritmetoepassingen proberen te bewerkstelligen. Dat de buitenwereld opeens kan meekijken, leidt tot interne bewustwording – en soms tot angst om iets verkeerd te doen.

'Computer says no'

Mede door het Toeslagenschandaal en het debacle met SyRI (het Systeem Risico Indicatie voor het opsporen van sociale zekerheidsfraude dat door de rechter werd verboden) groeide de laatste jaren het besef dat de overheid zich niet kan blijven verschuilen achter ‘computer says no’. Een burger heeft het recht om te weten hoe een besluit tot stand komt, ook als dat besluit wordt onderbouwd door een berekening van een computer. Met dat besef groeide ook het praktisch ongemak, want hoe bied je als overheid op een toegankelijke manier inzicht in de werking van de black box die data opvreet en resultaten uitspuugt, als het overzicht op alle systemen ook bij de overheid zelf grotendeels ontbreekt?

Meest zichtbare ethische uitgangspunt

Steeds meer overheidsorganisaties zijn bezig met het opzetten van een governance of bestuursstructuur rondom algoritmes. Die omvat (varianten op) een toetsingsproces, toezicht door experts, een externe algoritme-adviesraad, een bewustwordingsprogramma en een algoritmeregister. Bij UWV is een recent opgesteld Kompas Data Ethiek de leidraad voor de omgang met data. Het kompas bestaat uit 12 ethische uitgangspunten. Eén daarvan is transparantie en leidt concreet onder meer tot het vullen van een algoritmeregister.
Het algoritmeregister is dus maar één van de vele manieren waarop overheidsorganisaties werken aan een goede omgang met data, maar wel het meest zichtbare voor de buitenwereld, en daarmee ook het meest bevattelijk voor kritiek. Een snelle blik op een algoritmeregister van een overheidsinstantie kan leiden tot een teleurgesteld ‘is dit het nu?’ Zo staan in het algoritmeregister van het UWV welgeteld 3 algoritmes beschreven. Het landelijke algoritmeregister telt nu 117 algoritmes, 8 meer dan bij de lancering op 22 december 2022. Maar we staan dan ook nog helemaal aan het begin van een lang proces, zeggen alle betrokkenen. Aan de buitenkant is er niet altijd veel van te zien, maar intern begint het streven naar meer transparantie zijn vruchten af te werpen.

Wat is een algoritme?

Een algoritmeregister opzetten is veel uitzoekwerk, dat begint met de vraag: wanneer is iets een algoritme? Volgens de Algemene Rekenkamer is een algoritme een set van regels en instructies die een computer uitvoert. ‘Algoritmes helpen bijvoorbeeld om problemen te analyseren maar ook om beslissingen te nemen. Zo kan de overheid grote hoeveelheden gegevens (data) combineren en analyseren.’ is te lezen onder de veelgestelde vragen over het landelijke algoritmeregister. Als je die definitie heel letterlijk neem, kun je ook de spellingscheck opvoeren in een algoritmeregister, of Microsoft Excel. Dat is uiteraard niet zinvol, maar het transparant maken van rekenmodellen die in Excel worden gemaakt en die impact hebben op inwoners is dat dan weer wel. Het uitzoekwerk zit voor een groot deel in het bepalen welk algoritme wel en welke niet in aanmerking komt voor het register.

Veel uitzoekwerk

Een algoritme kan zo klein zijn als een rekenregel en zo complex als een neuraal netwerk. Het inventariseren van alle algoritmes binnen de organisatie kost veel tijd. Dat geldt zeker voor een gemeente met 18.000 medewerkers, 60 organisatieonderdelen en tal van afdelingen, zoals Amsterdam. In 2019 was Amsterdam samen met Helsinki de eerste gemeente die een algoritmeregister begon. Na een voortvarende start bleef het een tijdlang stil door organisatorische uitdagingen, maar inmiddels is de machine op gang, zegt Dick de Maa, directeur Digitale Strategie en Informatie. De gemeente ontwikkelde een tool waarmee medewerkers van alle afdelingen kunnen bepalen of ze te maken hebben met een algoritme en de impact ervan kunnen inschatten. De Maa: ‘We voeren een brede definitie van een algoritme. Dat leidt ertoe dat mensen soms denken: "als dat ook meetelt, dan weet ik er nog wel een paar". In het begin wordt het altijd rommeliger als je gaat opruimen, net als thuis.  Pas na een tijdje begint er meer orde te ontstaan.’

Angst om iets verkeerd te doen

Het opsporen van algoritmes die intern worden gebruikt leidt soms tot angst bij collega’s, die vrezen onverhoopt iets verkeerd te doen. ‘Het is een kijkje in de keuken van medewerkers die jarenlang hun werk naar eer en geweten doen en van wie het werk opeens in een register komt te staan,’ zegt Bernie Goedhart, ambtelijke secretaris van de Algorithm Advisory Board in Rotterdam. 'De systemen zijn soms al jarenlang in gebruik en de kennis en kunde van het moment van ingebruikname is niet altijd meegegroeid in de organisatie. Daardoor overzien medewerkers niet de gehele keten.' Tegelijkertijd leidt die angst tot veel welwillendheid in de organisatie om stappen te zetten op het gebied van dataethiek, zien ze in Rotterdam.

Het mysterieuze gaat er af

In de gedachte dat een algoritmeregister het gebruik van algoritmes door de overheid zou normaliseren, zoals sommige critici beweren, kunnen de geïnterviewden zich daarom niet vinden. Ze zien eerder het tegenovergestelde gebeuren. De Maa zegt: ‘Het mysterieuze gaat er juist van af. Met een algoritmeregister word je blootgesteld aan een kritisch publiek. Daardoor wordt de inzet van algoritmes niet vanzelfsprekend, of in ieder geval niet iets wat op de automatische piloot gebeurt.’ De zoektocht leidt intern tot vragen, tot gesprekken en tot discussies. En juist dat is wat een overheid die gebruikmaakt van algoritmes nodig heeft, zeggen de betrokkenen eensgezind.

Beschrijven in begrijpelijke taal

Ook bij UWV zien ze de bewustwording bij medewerkers toenemen. Vooral het beschrijven van een algoritme in begrijpelijke taal, en uitleggen hoe het onderdeel uitmaakt van een besluitvormingsproces, draagt daaraan bij, zegt Eveline Jacobson, projectmanager data-ethiek en algoritmeregister bij UWV. Het algoritmeregister van UWV is geïnspireerd op dat van Amsterdam. Het bevat de velden die naar alle waarschijnlijkheid ook deel zullen uitmaken van de metadatastandaard, die door het Ministerie van Binnenlandse Zaken en Koninkrijkrelaties wordt ontwikkeld om in de toekomst meer eenheid aan te brengen in al die registers.

Intern minstens zo waardevol als extern

‘Ik weet nog dat ik destijds aan Amsterdam vroeg waarom ze er pas vier algoritmes in hadden staan,’ vertelt Jacobson. ‘Hoe moeilijk kan het zijn, dacht ik nog. Dat had ik duidelijk niet moeten denken. Het is de kunst om met de juiste mensen aan tafel in begrijpelijke taal het proces te beschrijven waar dat algoritme onderdeel van uitmaakt.’ Het begrijpelijk leren uitleggen van de inzet en de werking van een algoritme is voor de medewerkers zelf minstens zo waardevol als de transparantie naar buiten toe, vindt De Maa. ‘Mensen denken even goed na voordat ze iets in een algoritmeregister zetten.’

Lees het hele artikel in Binnenlands Bestuur nr. 9 (inlog)