‘Bestuurders moeten algoritmen temmen’

Omdat algoritmen niet altijd doen wat ze moeten doen, is controle noodzakelijk. Die wordt steeds lastiger omdat algoritmen steeds complexer en uiteindelijk zelfs onbegrijpelijk worden. ‘Elk bestuursorgaan twee opties: experimenteren met controle of berusten in de victorie van de technologie op onze democratie.’

Dat stelt Paul Strijp, sectormanager bestuur van de provincie Noord-Holland, deze week in een essay in Binnenlands Bestuur. Langzaam wordt duidelijk dat algoritmen, in essentie niet meer of minder dan rekenmethoden die worden toegepast op grote hoeveelheden data, bezig zijn aan een opmars. De overheid blijft daarbij volgens hem niet achter. ‘Zij heeft vooral tot doel om het gedrag van haar burgers te voorspellen’, aldus Strijp. Steeds meer beleidsterreinen worden data-gestuurd: de aanpak van voortijdige schooluitval, het armoedebeleid, de bepaling van milieuzones, het reguleren van bezoekers- en verkeersstromen.

Verkeerde dingen
Die voorspellingen stellen gemeenten in staat om vroegtijdig gerichte interventies te doen. Om bijvoorbeeld de eenzaamheid en depressiviteit vóór te zijn. Maar algoritmen kunnen volgens Strijp ook voor een wat minder paradijselijke wereld zorgen. ‘Soms doen ze niet wat ze moeten doen. Dan discrimineren ze bijvoorbeeld’, stelt hij. En algoritmen kunnen ook sociale tegenstellingen vergroten. ‘En hoe slim ze ook zijn, soms leren ze zichzelf de verkeerde dingen.’

Vileine vraag
Politiek gezien is volgens hem niet zo dat een wethouder van een willekeurige gemeente moet vrezen voor een vileine vraag van een gemeenteraadslid over een algoritme. ‘Dat neemt niet weg dat zich voorzichtig een kennisbasis vormt’, aldus Strijp. Zo is er inmiddels een aantal onderzoeken uitgevoerd naar de werking van data en algoritmen, zoals het onderzoek van het Rathenau Instituut naar de vraag of een aparte adviescommissie voor ethische kwesties rondom technologie en data in een behoefte zou voorzien. ‘De belangrijkste conclusie: een commissie is niet nodig. Overheid, bedrijfsleven en maatschappelijk middenveld moeten eerst zelf maar eens in actie komen. Voor het toezicht op algoritmen achtte het instituut evenmin een nieuwe toezichthouder of nieuwe wet- of regelgeving nodig. Volgens de onderzoekers kan de overheid nu al normerende kaders opstellen, bijvoorbeeld over de wijze waarop een softwareontwikkelaar verantwoording kan afleggen over de werking van complexe algoritmen.’

Decentrale overheden
In maart lag er een kabinetsstandpunt in reactie op onder andere het rapport Opwaarderen. Het kabinet nam de aanbeveling over om géén adviescommissie in te stellen en zoekt de oplossingen in deze fase vooral in maatregelen zoals juridisch-wetenschappelijk onderzoek, een expertbijeenkomst, een adviesaanvraag, experimenten en dialogen.

‘Opvallend in zowel het rapport Opwaarderen als in het kabinetsstandpunt is de geringe aandacht voor decentrale overheden. Terwijl in het licht van de smart cities met name bij gemeenten ruimte is om concreet aan de slag te gaan. Daarvoor hoeven de maatregelen van het kabinet niet te worden afgewacht’, stelt Strijp. ‘We zien nu al initiatieven voor ethische verklaringen. Zoals Tada! duidelijk over data. Hiermee scharen bedrijven, overheden, maatschappelijke organisaties en burgers zich achter een aantal gezamenlijke principes voor een verantwoorde digitale stad. Eén van die principes is menselijke maat: “Data en algoritmen hebben niet het laatste woord. Menselijkheid gaat altijd voor. We laten ruimte voor onvoorspelbaarheid”.’

Rol accountant
Er is, aldus Strijp, nog een andere route om de algoritmen te lijf te gaan: via de accountancy. Een accountant bedenkt vooraf waar de grootste kansen op fouten in de jaarrekening liggen en stemt daar zijn controle op af. Die denkrichting leent zich volgens hem uitstekend voor controle op algoritmen. ‘Centraal staat het risico dat een algoritme een verkeerde beslissing neemt. Gemeenten, andere bestuursorganen en accountants kunnen deze handschoen oppakken.’

Algoritmen zijn rekenmethoden, instructies die de computer volgt, waarbij geen menselijke instructies meer bij komen kijken. Ze vormen een heuse black box, ‘zij gaan met de mens aan de haal’, aldus Strijp. ‘Elk bestuursorgaan heeft twee opties. Deze opties representeren het democratisch dilemma. De eerste is: experimenteren met een accountantsverklaring of een ethisch programma, trial and error. De tweede optie luidt: berusten, niets doen. Onder ogen zien dat we zo langzamerhand op een moment in onze geschiedenis zijn beland dat de technologie ons de baas wordt. Dat controle op neurale netwerken te complex is geworden en dat de voor democratie noodzakelijke checks and balances steeds meer een schijnvertoning vormen.’

Lees het volledige essay in Binnenlands Bestuur nr. 13 van deze week (inlog)