Geen aparte toezichthouder voor algoritmegebruik

Toezichthouders doen nog vrij weinig onderzoek naar het thema ‘digitalisering’, maar ze hebben voldoende bevoegdheden. Mede om deze redenen adviseert bureau Hooghiemstra & Partners (H+P) om ‘voorlopig geen afzonderlijke toezichthouder aan te wijzen voor het toezicht op het gebruik van algoritmen door de overheid.’

Basis

Het onderzoek gaat in op de vragen welke juridische basis er is voor toezicht op het gebruik van algoritmen door overheden en hoe er op dit moment toezicht wordt gehouden, schrijven ministers Knops (Binnenlandse Zaken, CDA) en Dekker (Rechtsbescherming, VVD) aan de Tweede Kamer. De organisaties die besproken worden zijn de Algemene Rekenkamer, de Auditdienst Rijk, het College voor de Rechten van de Mens, de Autoriteit Persoonsgegevens, de rijksinspecties en de Nationale Ombudsman.

Rudimentair

‘Op dit moment doen de onderzochte toezichthoudende organisaties en de Nationale Ombudsman geen structureel onderzoek naar het gebruik van algoritmen door de overheid’, schrijven de onderzoekers. Bij vrijwel iedere organisatie staan algoritmen op de agenda, maar de inzet op het thema is nog ‘rudimentair’.

Weinig ervaring

‘Omdat men tot op heden ook nog zeer weinig daadwerkelijke ervaring heeft opgedaan met toezicht op algoritmen, wordt ook aangeraden om over twee jaar te evalueren hoe het toezicht op algoritmen zich dan heeft ontwikkeld.’

Stapeling van toezicht

‘Uit de uitgevoerde analyse van wet- en regelgeving volgt dat de onderzoekers geen juridische lacune hebben geconstateerd in de toezichtstaken’, valt verder in het rapport te lezen. Er vallen geen gaten omdat algoritmen een middel zijn om taken uit te oefenen waar toch al toezicht op wordt gehouden. Er zou zelfs sprake zijn van een ‘stapeling van toezicht’ omdat toezichthouders vanuit een andere opdracht naar dezelfde taakuitoefening van de overheid kijken.

Krapte arbeidsmarkt

De moeite die het kost om de juiste mensen aan te trekken, blijft een probleem. Hoewel de Algemene Rekenkamer, de Auditdienst Rijk en de Autoriteit Persoonsgegevens specialistische kennis in huis hebben, merken de organisaties in het algemeen op ‘dat het lastig is om de juiste mensen aan zich te binden vanwege krapte op de arbeidsmarkt.’

Onvoldoende aanknopingspunten

En het taalgebruik in beleid en overheidsrichtlijnen is vaak niet bruikbaar voor dataspecialisten. De (juridische) definities zijn niet hanteerbaar, want ze versimpelen de technische werkelijkheid en bieden daarom in de praktijk ‘onvoldoende aanknopingspunten’. H+P noemt als belangrijk aandachtspunt dat ‘inhoudelijk specialisten en dataspecialisten elkaars taal moeten leren spreken’.

Menselijke grip

Er waren meerdere moties ingediend waarop het onderzoek antwoord moest geven. Kamerleden Middendorp en Drost zijn bijvoorbeeld ‘van mening dat er menselijke grip op algoritmes moet zijn’. Verhoeven en Van der Molen benadrukken dat ‘de Tweede Kamer zich heeft uitgesproken voor onafhankelijk toezicht op algoritmes en dat het kabinet hier nu een voorstel voor uitwerkt’ en vragen om een meldplicht voor ‘ingrijpende algoritmes’.

Meldplicht

De onderzoekers bespraken met respondenten het verzoek om een meldplicht. ‘De respondenten onderkennen dat de regering en de toezichthouders zelf geen goed zicht hebben op de ontwikkeling en inzet van algoritmen door de overheid.’ Maar men twijfelt aan de effectiviteit van een dergelijke meldplicht. ‘Afhankelijk van het precieze doel dat wordt nagestreefd met de meldplicht, dient voorkomen te worden dat er schijnzekerheid wordt gecreëerd.’

Garanties vastleggen

Op meerdere fronten proberen overheden grip op algoritmen te krijgen. Amsterdam probeert momenteel doorgaans vage richtlijnen te concretiseren door in juridische afspraken met leveranciers al bepaalde garanties vast te leggen, zoals de uitlegbaarheid van een algoritme.