‘Open algoritmes cruciaal bij bestrijding bijstandsfraude’

De gevaren van 'historische vooroordelen', onjuiste data en gebrekkige inzichtelijkheid zijn volgens D66 en ook de SP problematisch bij de bestrijding van bijstandsfraude door gemeenten. In reactie op Kamervragen gistermiddag heeft de verantwoordelijke staatssecretaris echter niet de gevraagde openheid toegezegd, zo schrijft AG Connect. 

Positieve en negatieve effecten
'Algoritmes zijn tegenwoordig overal. We worden de hele dag gemeten', begint D66-Kamerlid Rens Raemakers zijn Kamervragen aan staatssecretaris Tamara van Ark, die verantwoordelijk is voor Sociale Zaken en Werkgelegenheid. 'Dat kan ook heel positief zijn', betoogt Raemakers. 'Maar het kent ook risico’s', bijvoorbeeld dat bepaalde groepen mensen gediscrimineerd kunnen worden.

Inzichtelijkheid en regels
Zijn zorgen en vragen behelzen dan ook de inzichtelijkheid van de gebruikte algoritmes (en machine learning) om bijstandsfraude te detecteren of zelfs te voorspellen. Deze inzet van analytics en kunstmatige intelligentie gebeurt nu in vier gemeentes in Nederland. Raemakers vraagt of de inwoners van die gemeenten inzicht krijgen in de algoritmes en hun werking. Daarnaast wil hij van staatssecretaris Van Ark weten of de betreffende gemeenteraden wel op de hoogte zijn van dit project en of zij inzicht hebben in de algoritmes. 'Zijn hier landelijke regels voor?', anticipeert het Kamerlid op eventuele toekomstige bredere toepassing. Bewindsvrouw Van Ark reageert allereerst met de stelling dat het goed is om fraude op te sporen, met de zelfverbetering dat het belangrijk is: vanwege het draagvlak voor sociale steun.

‘Gemeenten doen wat ze moeten doen’

Vervolgens verklaart de staatssecretaris resoluut: 'Deze gemeenten doen wat ze moeten doen'. Namelijk: fraude opsporen en bestrijden. Van Ark verzekert hierbij dat de gemeenten voor dit doel alleen gegevens gebruiker die al in hun administratie zitten, voor bijstandsdoeleinden. Daarbij is het aan de gemeenteraden om hier toezicht op te houden, verklaart de staatssecretaris. Zij geeft met dit antwoord over de taken echter niet expliciet aan of de raden zijn geïnformeerd, dan wel inzicht hebben. Raemakers benadrukt in zijn Kamervragen ook het belang van de menselijke maat. 'Is die wel gewaarborgd?' Van Ark reageert dat er absoluut géén automatische besluitvorming mag zijn, wat immers in de wet is bepaald. De inzet van algoritmes en machine learning levert de sociale recherche slechts indicaties op, die dan door rechercheurs dan nog gecontroleerd moeten worden.

Bijval van SP
Toch is D66’er Raemakers bezorgd, wat in nakomende vragen bijval krijgt van SP-Kamerlid Mahir Önder Alkaya. Hij vraagt de staatssecretaris ook om openheid van de gebruikte algoritmes, om die dan door derde partijen te kunnen laten checken. Beide Kamerleden vrezen dat gebruik van historische data, of mogelijk zelfs onjuiste gegevens kan leiden tot onterechte uitlichting, verdenking en controle van bepaalde groepen in de samenleving. Raemakers vreest dat algoritmes trainen op historische data dan vooroordelen kan opleveren, voor bijvoorbeeld bepaalde wijken waardoor andere wijken wellicht aan controles ‘ontkomen’. Zijn vragen om inzichtelijkheid omvatten niet alleen de algoritmes zelf maar ook de data die daaraan gevoerd worden. 'Mogen mensen fouten corrigeren?'

Open of bedrijfsgeheim?
Staatssecretaris Van Ark herhaalt dat het gaat om gegevens die al door mensen zijn opgegeven in het kader van hun bijstandsuitkering. 'Dit is slechts een toegevoegd instrument', benadrukt ze. Detailvragen over de open dan wel bedrijfsgeheime aard van de gebruikte algoritmes moet Van Ark ‘als alfa-persoon’ schuldig blijven, zegt ze. Hierbij bood ze wel aan om indien gewenst nadere informatie in te winnen.

Raemakers reageert dat hij ook een alfa is, maar dat hij wel de toezegging van de staatssecretaris wil dat er goede controle is op de algoritmes: 'níet overlaten aan bedrijven'. Van Ark voelt hier echter niet voor: zij verwijst naar Europese richtlijnen hiervoor en is niet bereid om extra regelgeving op dit vlak in te gaan voeren.

Bron: AG Connect