‘Slechts 2 procent van impactvolle overheidsalgoritmen transparant’

Er staan inmiddels meer dan 600 algoritmen van de overheid geregistreerd in het algoritmeregister, maar slechts 2 procent van de algoritmen die impact hebben op betrokkenen, is transparant. Daarmee schiet de Nederlandse overheid ernstig tekort, schrijft de Open State Foundation in een ingezonden opinie in de Volkskrant.

Het gebrek aan openheid staat haaks op de toezeggingen die na de toeslagenaffaire zijn gedaan, stellen onderzoekers Charlotte Kroese en Serv Wiemers namens de stichting. Het door de overheid geïntroduceerde algoritmeregister, bedoeld om algoritmen inzichtelijk te maken, bevat momenteel 610 geregistreerde systemen. Hiervan worden 286 als impactvol aangemerkt en 25 vallen onder de categorie hoog-risico AI-systemen volgens de Europese AI Act. Gezien het geschatte totaal van 16.000 algoritmen binnen de Nederlandse overheid blijft het overgrote deel buiten beeld.

Gemeenten doen het wel aanzienlijk beter dan het Rijk. Zij publiceren samen het grootste deel: 430 (70,5 procent). Hiervan zijn iets meer dan de helft impactvolle algoritmen of hoog-risico AI-systemen.

Ver onder verwachting

De analyse wijst bovendien op een gebrekkige deelname aan het algoritmeregister. Slechts 114 van de 342 gemeenten hebben hierin algoritmen geregistreerd, terwijl de ministeries gezamenlijk slechts 22 algoritmen hebben gepubliceerd. Dit is ver onder de verwachting van 150. Van grotere gemeenten en uitvoeringsorganisaties wordt verwacht dat zij ieder tussen de 20 en 30 impactvolle algoritmen gebruiken, maar een meerderheid blijft ongeregistreerd.

‘Voor de overige 98 procent tasten we in het duister: de burger kan niet controleren welke algoritmen op welke wijze worden gebruikt door overheidsorganen', aldus de Open State Foundation.

Gebrek aan prioriteit

De stichting wijst op een gebrek aan kennis over algoritmen en een gebrek aan prioriteit als belangrijke oorzaken van het tekort aan transparantie. 'Voor veel bestuurders zijn algoritmen eng en onbemind. Met alle handreikingen, kaders en assessments zien instanties door de bomen het bos niet meer. Ook vertonen overheidsorganisaties risicomijdend gedrag als het gaat om openheid van zaken geven. Verder is er weinig samenwerking en kennisuitwisseling.’

De onderzoekers pleiten voor een toegankelijker transparantiemodel, zoals het 5-sterrenmodel, waarin stapsgewijs meer inzicht wordt geboden. Ze benadrukken dat algoritmen niet mogen worden ingezet als deze niet inzichtelijk en uitlegbaar zijn: een basisvoorwaarde voor goed bestuur.