Algoritmes overheid moeten openbaar

Overheidsbeslissingen worden steeds vaker geautomatiseerd voorbereid en geautomatiseerd genomen. Dit blijkt grote risico’s met zich mee te brengen, zoals bij de toeslagenaffaire. Door het ongeoorloofd gebruik van gegevens betreffende o.a. (dubbele) nationaliteit en daarvan afgeleide gegevens en door algoritmes die onrechtmatige, negatieve beslissingen aan deze data verbonden, leidde dit tot onbehoorlijk bestuur. Deze schadelijke effecten hadden kunnen worden vermeden, wanneer de algemene beginselen van behoorlijk bestuur (abbb) in acht waren genomen.

In veel regelingen krijgt het bestuur een ruime bevoegdheid om individuele en publieke belangen tegen elkaar af te wegen. De bestuursrechter kan vervolgens onderzoeken of het bestuur zich aan de wet en de abbb heeft gehouden, of het het juridisch juiste besluit heeft genomen. Het bestuur maakt de afweging, niet de rechter. Het is daarom van groot belang dat de rechter volledig inzicht heeft in de gebruikte gegevens en in het besluitvormingsproces, zodat hij die toets goed kan verrichten.

De verplichting tot openbaarmaking van bestuurlijke en rechterlijke uitspraken vormt het sluitstuk van dit kwaliteitsbewakingssysteem. Zo kunnen de direct en de indirect belanghebbenden de kwaliteit van bestuurlijke beslissingen beoordelen, zoals belangenbehartigingsorganisaties, journalisten, universitaire juristen en politici.

Met de automatisering van de voorbereiding en van het nemen van de bestuurlijke besluiten is ongemerkt een blinde vlek ontstaan voor de rechters. De schema’s die bij de automatisering worden gebruikt, de zogenaamde algoritmes, zijn niet vanzelfsprekend openbaar zoals wetgeving en jurisprudentie. Een deel van de verwerkte data en het verwerkingsmechanisme blijft daardoor onzichtbaar. Bovendien verleidt de manier waarop automatisering werkt het bestuur om het eindresultaat te presenteren als de uitkomst van een serie ja/nee-vragen, zoals de vraag of iemand meerderjarig is en of er op grond van de feiten aan de wet wordt voldaan of niet. De rechter kon daardoor alleen vaststellen of er werd geoordeeld dat er bijvoorbeeld al dan niet van fraude sprake was. Hoe de afweging was die tot het al dan niet aanvinken van het fraudevakje leidde was voor de rechter onzichtbaar. Hierdoor krijgt het besluit de gedaante van de toepassing van een objectieve norm. De rechter kan hierdoor zijn werk niet meer naar behoren uitvoeren. Bovendien missen zowel de directe als de indirecte belanghebbenden de mogelijkheden van bezwaar en kritische beschouwing.

De oplossing ligt niet in het terugdringen van de automatisering van de besluitvorming. Door de grote aantallen besluiten die genomen moeten worden is automatisering noodzakelijk geworden. De oplossing is tweeledig.

Allereerst het openbaar maken van de gebruikte data en algoritmes aan de direct betrokkenen en aan de rechter, en van de gebruikte algoritmes aan de gehele samenleving. Wegens de privacyregels kunnen niet alle data aan de indirect betrokkenen worden verstrekt, maar de gebruikte typen data die onderdeel van het algoritme uitmaken, kunnen wel openbaar worden.

Verder moet worden voorkomen dat algoritmes worden toegepast die geen rekening houden met de tekst van de wet, met het doel waarvoor de wet is gemaakt en met de abbb. Algoritmes kunnen ook zo worden ontworpen. Het gebruik van discriminerende gegevens kan bijvoorbeeld worden uitgesloten. Zelfs kunnen beleidsregels in het algoritme worden opgenomen, zodat het ook de inhoudelijke afwegingen kan maken. Zo’n automatisering vormt een integraal onderdeel van het systeem van regelgeving. Tenslotte kan het algoritme zo worden geconstrueerd, dat het aangeeft wanneer het besluit niet door het algoritme zelf genomen kan worden en dat menselijke bemoeienis is vereist. De menselijke maat blijft bepalend.

Dr. Kees de Vey Mestdagh is gespecialiseerd in IT-recht en Legal Tech. Berend Vis is oud-docent bestuursrecht aan de Rijksuniversiteit Groningen en is gespecialiseerd in het recht lagere overheden.