Inzicht in gebruikte algoritmes gemeenten
De overheid wil transparant zijn over de algoritmes die worden gebruikt voor beslissingen en voorspellingen met impact op de burger.
De overheid wil transparant zijn over de algoritmes die worden gebruikt voor beslissingen en voorspellingen met impact op de burger. Centric omarmt het initiatief van de G4 en andere overheden om deze relevante algoritmes vast te leggen in een openbaar Algoritmeregister.
Het gebruik van algoritmes en Artificial Intelligence (AI) is niet meer weg te denken uit onze samenleving. Niet alleen grote techbedrijven als Google, Facebook en Netflix gebruiken het, ook overheden zetten algoritmes in om gegevens te verwerken en op basis daarvan beslissingen te nemen. Steeds meer besluitvorming komt tot stand op basis van voorspellende en zelflerende algoritmes. Mede door de toeslagenaffaire wordt kritisch gekeken naar het gebruik van algoritmes door de overheid en bestaat de wens om daar transparant over te zijn.
Algoritmeregister
De landelijke politiek wil dat de overheid een betrouwbare partner is en vindt dat inwoners moeten kunnen weten hoe besluiten via algoritmes tot stand komen. Met het voorstel ‘Publieke controle op algoritmes’, ontwikkelen de vier grootste gemeenten (G4), de twaalf provincies, politie en Rijkswaterstaat gezamenlijk beleidsinstrumenten voor algoritmes. Hieruit is het Algoritmeregister van de Nederlandse overheid ontstaan.
Op dit moment is het voor overheden nog niet verplicht om algoritmes te publiceren, hoewel dit een uitdrukkelijke wens is van de Tweede Kamer. Naar verwachting gaat deze verplichting op zijn vroegst in 2024 gelden. Het kabinet wacht hiervoor ook op de Europese AI-verordening, die onder andere om basisafspraken zal bevatten over de werking van deze producten en de ondersteuning van gebruikers van AI-systemen. Op dit moment wordt ingezet op aansporing van overheden om vooral hun hoog-risico profielen te delen.
Transparantie over gebruik
De G4 hebben de door hen gebruikte algoritmes opgenomen in het genoemde Algoritmeregister. Wij zien dat meer gemeenten bezig zijn om de algoritmes die zij gebruiken in kaart te brengen, bijvoorbeeld algoritmes die gebruikt worden in de processen voor uitkeringsaanvragen, het doorgeven van verhuizingen of het bepalen van WOZ-waarden. Centric ontvangt ook vragen over de toepassing van algoritmes binnen onze software voor de overheid en informeert klanten daar graag proactief over.
De beschrijvingen van de relevante algoritmes delen wij met onze klanten, zodat zij daarmee hun inwoners kunnen informeren. Deze beschrijvingen zijn opgezet overeenkomstig de indeling van het Algoritmeregister. Op dit moment is Centric de enige IT-leverancier die gemeenten actief ondersteunt bij het toewerken naar openheid over de werking van algoritmes.
Definitie
Software bestaat per definitie uit algoritmes. Lang niet al deze algoritmes zijn relevant voor het hier beoogde doel. Op dit moment ontbreekt het nog aan een generieke definitie van relevante algoritmes. Voor de door ons uitgevoerde inventarisatie hebben wij de volgende definitie van Algoritme toegepast:
‘Software waarmee op geautomatiseerde wijze voorspellingen worden gedaan, beslissingen worden genomen en/of adviezen worden gegeven door gebruik te maken van data-analyse, statistiek en/of zelflerende logica’
Wij beperken ons hierbij dus niet tot algoritmes die volledig geautomatiseerd tot besluitvorming leiden, maar ook algoritmes die tot een advies komen waar vervolgens door een ambtenaar een besluit op wordt genomen. Als op enig moment een generieke definitie wordt bepaald, dan zullen wij op basis daarvan onze inventarisatie actualiseren.
Meer informatie?
In dit document vind je meer informatie over de verschillende oplossingen waarin algoritmes worden gebruikt.
Plaats als eerste een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.