Van fast fashionista’s tot hekkensluiters

Datagedreven werken en de inzet van algoritmes gaan vaak hand in hand, al dan niet onder de motorkap. Het promotieonderzoek van Maranke Wieringa beschrijft hoe gemeenten omgaan met algoritmes. Er blijkt soms sprake van een vorm van cognitieve dissonantie, waarbij de eigen algoritmes niet als ‘echte’ worden gezien.

Vangrails timmeren

In het onderzoek onderscheidt Wieringa vier strategieën voor de omgang met ­algoritmes. Typische koplopergemeenten maken al veel gebruik van algoritmes en zijn ondertussen druk om de randvoorwaarden voor verantwoord gebruik vast te leggen. ‘Terwijl koplopergemeenten al bezig zijn, timmeren ze de vangrails in de weg,’ beschrijft Wieringa.

Een tweede categorie bestaat uit wat Wieringa de fast fashionista’s noemt. ‘Dat zijn gemeenten die heel snel met algoritmetoepassingen van start gaan, omdat ze grote kansen zien in innovatie, maar die initieel minder aandacht hebben voor het plaatsen van de vangrails.’

Kat-uit-de-boom-kijkers

Er zijn ook veel gemeenten die liever de kat uit de boom kijken. Ze proberen eerst lering te trekken uit wat anderen doen, voordat ze zelf voorzichtig aan de slag gaan. ‘Die gemeenten willen eerst de vangrails neerzetten voordat ze van start gaan,’ aldus Wieringa. Een vierde categorie, in het onderzoek de hekkensluiters genoemd, geeft aan dat data binnen de organisatie nog niet op orde zijn, of dat het onderwerp datagedreven werken überhaupt nog niet op de kaart staat. Algoritmes? Ons nog even niet bellen.

Spectrum

De strategieën beslaan een spectrum waarbinnen organisaties een positie innemen. Iedere positie heeft zijn voors en tegens, benadrukt de promovendus. Het hangt er bijvoorbeeld sterk van af of datagedreven werken al goed is ingebed binnen de organisatie en of er voldoende capaciteit beschikbaar is om aandacht te besteden aan verantwoord algoritmegebruik. 

Nadenken over vangrails

Nadenken over vangrails kan hoe dan ook geen kwaad, hoe groot of klein de gemeente ook is. Wieringa: ‘Maak een bewuste keuze in hoeverre je vangrails nodig hebt en welke soort vangrails dan.’ Die metaforische vangrails bestaan vaak uit zeer praktische zaken, zoals het instellen van een ethische commissie of adviesraad, het vastleggen van inkoopvoorwaarden, het bepalen wanneer er een impact assessment moet plaatsvinden voordat een algoritme wordt ingezet en welke dat moet zijn en het bespreken van governance-gerelateerde vraagstukken.

Best veel algoritmes

Een vaste definitie van een algoritme kent de overheid nu nog niet (wordt aan gewerkt). Het gevolg is dat er vaak een schok door een organisatie gaat als Maranke Wieringa vertelt wat er allemaal als een algoritme kan worden gezien. ‘Mensen denken als eerste aan algoritmes met een grote A. Daaronder valt datgene wat andere mensen ergens anders aan het doen zijn, zoals het Netflix-algoritme, Google, deep learning, neurale netwerken. Maar algoritmes zijn ook beslisbomen, of gewoon hele simpele systemen die een berekening uitvoeren. En dan heb je er opeens best wel veel.’

Het lijkt een vorm van cognitieve dissonantie: algoritmes worden nu binnen gemeenten gedefinieerd door wat ze niet zijn. ‘Vaak hoor ik: “we hebben wel algoritmes, maar geen automatische besluitvorming, of geen zelflerende systemen”,’ zegt Wieringa. ‘Dat is een manier om er nog niet over na te hoeven denken. Het besef dat simpele systemen ook best ingrijpende consequenties kunnen hebben, leeft nog niet zo sterk.’

Leren van de AVG

Een goed argument om de algoritmes binnen de organisatie aan een onderzoek te onderwerpen, is de aankomende wet- en regeling. Alle systemen uitpluizen op mogelijke algoritmes én alle impactvolle algoritmes registeren is veel werk, maar helemaal niets doen en hopen dat het wel overwaait, is volgens Wieringa evenmin een optie. ‘Leer van de AVG. Er zal vast een overgangsperiode zijn als de AI Act van kracht gaat, maar als je te laat begint, is het sowieso lastig om de achterstand in te halen. Denk alvast na over wat jouw organisatie kan en wil met data en algoritmes, want links- of rechtsom zul je toch datagedreven gaan werken.’

Lees het hele interview met Maranke Wieringa in BB 23 (inlog)