Open over algoritmes

Als overheid moet je inwoners altijd kunnen uitleggen hoe je een bepaald besluit hebt genomen. Dat betekent ook inzage geven in de algoritmes die je gebruikt. Verschillende gemeenten doen ervaring op met het doorgronden en registreren van impactvolle algoritmes. Zoals de gemeente Súdwest-Fryslân.

De overheid gebruikt steeds vaker algoritmes, bijvoorbeeld om haar dienstverlening te verbeteren. In het algoritmeregister kunnen zij algoritmes met impact op burgers publiceren, en transparant zijn over hoe zij deze inzetten. Registratie in het register wordt naar verwachting in 2025 verplicht. Verschillende overheden wachten dat niet af, maar zijn al begonnen met de publicatie van algoritmes. Zoals de gemeente Súdwest-Fryslân. Ben Krekelaar, adviseur Informatiemanagement en Automatisering (I&A) bij die gemeente: “Het gebruik van het algoritmeregister is nog niet verplicht, maar je moet als gemeente nu ook al transparant zijn over hoe je werkt. Dat vereisen onder meer de Algemene Wet Bestuursrecht en de AVG. Dus toen ik hoorde over het algoritmeregister, wilde ik daar gelijk mee aan de slag.” Hij sprak hierover met ICTU, die in opdracht van het ministerie van BZK het algoritmeregister implementeert. In een aansluitsessie leerde de gemeente hoe het register werkt en hoe zij algoritmes kunnen publiceren. “Aan het eind van de middag hadden we onze eerste twee algoritmes gepubliceerd.”

Overzicht van algoritmes

Súdwest-Fryslân registreerde als eerste een tweetal algoritmes die ze gebruikt in de software van Centric. Dat kon omdat Centric al een inventarisatiedocument heeft gemaakt, waarin het alle impactvolle algoritmes omschrijft die het in haar applicaties gebruikt. Het is de eerste leverancier in het overheidsdomein die dat op deze manier doet. Mark Uiterwijk Winkel, Chief Portfolio Officer bij Centric Public Sector Solutions: “Toen we hoorden dat er een algoritmeregister zou komen, zijn we gaan inventariseren welke algoritmes we gebruiken in onze applicaties. Die hebben we zodanig omschreven dat gemeenten deze vrij eenvoudig kunnen opnemen in het algoritmeregister.” Centric stelde recent een geüpdate versie van het document beschikbaar, zodat het blijft aansluiten bij wat er in het register moet worden ingevuld. Het algoritmeregister is nog in ontwikkeling. Krekelaar: “Het inventarisatiedocument van Centric is inderdaad opgesteld conform het registratieformat van het algoritmeregister. Je kunt hierdoor veel dingen makkelijk overnemen. Alhoewel je zelf natuurlijk ook kritisch moet kijken naar of je het algoritme exact op die manier toepast. En het duidelijk omschrijven. Het is soms complexe techniek, die je op een voor je inwoners begrijpelijke manier moet verwoorden in het register.”

Ethische kaders

Hoe pak je het in de praktijk aan? “Ik vraag eerst aan onze leveranciers welke algoritmes zij gebruiken in hun software. Dat levert leuke gesprekken op, ik merk dat iedereen het belang wel inziet om hier transparant over te zijn.” Daarnaast is het belangrijk dat je zelf begrijpt wat er in een applicatie gebeurt, zegt Krekelaar. “Hierover hebben wij gesprekken met de functioneel beheerders in onze organisatie. Zij richten de software in en bepalen daarmee in sommige gevallen ook welke algoritmes er worden gebruikt. Daarnaast voeren we gesprekken met de Functionaris Gegevensbescherming en de Privacy Officer. Die gesprekken zijn heel belangrijk voor de bewustwording in onze organisatie.” Je doet dit idealiter voordat je software implementeert, zegt hij. Er is hiervoor een conceptversie van het ‘toetsingskader implementatie algoritmen’ beschikbaar. Deze is in lijn met de ethische richtsnoeren van de AI-expertgroep van de Europese Commissie. Met het toepassen van dit implementatiekader en met het toetsen van de impact van het gebruik van algoritmes op mensenrechten, middels een IAMA (Impact Assessment Mensenrechten en Algoritmes), moet de gemeente nog wel ervaring opdoen, vertelt Krekelaar. “Het is fijn dat wij daar nog even de tijd voor hebben, voordat dit een verplicht onderdeel wordt bij de implementatie van nieuwe software.”
Het gesprek voeren over de inzet van algoritmes helpt bij de bewustwording in je organisatie, zegt ook Uiterwijk Winkel: “Net als de gesprekken die we hebben over het omgaan met persoonsgegevens en privacy, en security. Technologisch gezien is er heel veel mogelijk, maar we willen niet alles gebruiken wat kan. Daar zitten ethische kaders aan, dat voelen wij net zo sterk als gemeenten dat doen.”

Doorgronden wordt steeds complexer

Gevraagd naar een voorbeeld van hoe een gemeente controleert welke algoritmes het gebruikt en hoe die werken, vertelt Krekelaar over de geautomatiseerde berekening van leges voor vergunningen in de leefomgeving. De controle daarvan is relatief eenvoudig, want de gemeente heeft een legesverordening en kan bij elk besluit nagaan of het berekende bedrag juist is. Krekelaar: “Je kunt je afvragen of dit zo’n impact heeft op inwoners dat je het wilt registreren. Maar we krijgen er vragen over en het is eens onderdeel van een WOO-verzoek geweest. Daarom kiezen wij ervoor om het te publiceren.”
De toepassing van algoritmes, en de algoritmes zelf, wordt steeds complexer. Hoe ga je daarmee om? Krekelaar: “Bij het tweede algoritme dat wij registreerden, werd het al iets complexer. Dit gaat over een kennissysteem dat ondersteunt in het besluitvormingsproces bij het verstrekken van bijstand, op grond van de Participatiewet. Het registreert de uitkomsten hiervan en produceert de bijbehorende documenten. Dan is het even uitzoeken hoe dat precies werkt. Dit is nog een vrij eenvoudig voorbeeld van een algoritme. Hoe complexer de verwerking, hoe lastiger het wordt om dat te toetsen en begrijpelijk aan inwoners uit te leggen,” erkent Krekelaar. Uiterwijk Winkel vult aan: “Ook wij onderzoeken wat er precies in onze software gebeurt, we zijn tenslotte eindverantwoordelijk voor onze producten. Het klopt dat naarmate het complexer wordt, het lastiger wordt om het te doorgronden. Dat wordt zeker een uitdaging. Daarom is het des te belangrijker om hier nu mee te beginnen. Zodat we ervaring opdoen met het doorgronden van deze technologie, en er steeds bedrevener in worden.” Het is een oproep die beiden doen: wacht niet tot het algoritmeregister verplicht wordt, maar ga er nu mee aan de slag. Ook al wordt het register nog verder ontwikkeld en moet je straks wellicht in de nieuwste versie zaken aanpassen.

Aan de slag

Gemeenten hoeven niet zelf het wiel uit te vinden, want er is veel ondersteuning beschikbaar. Krekelaar wijst op de begeleiding vanuit ICTU en het implementatiekader. En met het inventarisatiedocument van Centric kunnen gemeenten die deze Centricsoftware gebruiken op een laagdrempelige manier het algoritmeregister alvast invullen. Krekelaar: “Ik heb het registratieformulier algoritmes samen met de Handreiking Algoritmeregister van BZK naar al onze leveranciers in het sociaal domein gestuurd, met de vraag of ze ons willen helpen bij het registreren.” Zijn tip aan gemeenten: neem contact op met je leveranciers, vraag een aansluitsessie aan bij ICTU en organiseer intern het gesprek over het gebruik van algoritmes. Uiterwijk Winkel: “Dit is het moment om hiermee aan de slag te gaan, samen met je organisatie en je leveranciers. We hebben echt wel wat uit te leggen aan inwoners. Als we hier onze energie in steken, dan kan het vertrouwen van mensen in de overheid alleen maar beter worden.” Krekelaar besluit: “Uiteindelijk gaat het erom dat je inwoners goede dienstverlening levert en transparant bent over hoe je dat doet. Dat als inwoners bijvoorbeeld een aanvraag voor een voorziening doen, ze direct te horen krijgen of ze daar recht op hebben. Innovatieve technieken kunnen hier uitstekend bij helpen, mits je ze maar goed begrijpt en op een verantwoorde manier toepast. Dat is iets dat we alleen in goede samenwerking met leveranciers en collega’s kunnen doen.