Szabó weigert toezeggingen over algoritmeregister

In het Kamerdebat over data-ethiek en inzet algoritmes door de Rijksoverheid was er van links tot rechts brede overeenstemming: de transparantie van algoritmes en de invulling van het Nationaal Algoritmeregister – nog altijd niet verplicht – moeten een stuk beter.

Staatssecretaris voor Digitalisering Zsolt Szabó (PVV) toonde zich echter weinig daadkrachtig. Hij kwam in zijn beantwoording niet veel verder dan gemeenplaatsen en aansporingen om het beter te doen en weigerde toezeggingen aan de Kamer. ‘Ik breng het ter sprake in de ministerraad en dan heb ik de volgende keer meer informatie.’

De Nederlandse overheid mag, wettelijk gezien, met behulp van algoritmes, aan geautomatiseerde risicoselectie doen. Het gebruik daarvan is niet automatisch in strijd met de wet. Met dat advies kwam de Autoriteit Persoonsgegevens (AP) aan de regering, met dien verstande dat er wél passende maatregelen worden genomen. Het kabinet nam het AP-advies over, maar dat leidde bij onder anderen Kamerleden Jesse Six Dijkstra (NSC) en Dogukan Ergin (DENK) wel nog tot een aantal vragen.

Six Dijkstra vroeg in het bijzonder naar die passende maatregelen. Het gaat hierbij onder meer over het dusdanig goed bewaren van persoonsgegevens dat de verstrekkende gevolgen voor betrokkenen – bijvoorbeeld mogelijke discriminatie – worden voorkomen en dat burgers recht hebben op ‘menselijke tussenkomst’, waaronder het aanvechten van beslissingen. Voldoet de overheid aan de door AP gestelde maatregelen, wilde hij weten. Ergin ging specifiek in op de menselijke tussenkomst. ‘Ik heb eigenlijk nog geen idee wat dit precies betekent. Misschien dat de heer Six Dijkstra mij nog wat wijzer kan maken?’

Nationaal algoritmeregister

In het debat van vaste Kamercommissie Digitale Zaken voerde het mensgerichte karakter van algoritmes en de gevolgen ervan de boventoon, en dan met name de transparantie naar burgers, journalisten en onderzoekers. Vrijwel elk Kamerlid, van links tot rechts, kon zich er wel in vinden dat burgers op de hoogte moeten worden gesteld door wat voor algoritme zij precies zijn beoordeeld. Kathmann (GL-PvdA) deed nogmaals het voorstel om in een brief naar burgers kenbaar te maken door welke risicoselectie zij zijn beoordeeld en hoe dat is gebeurd. ‘Dan moet ook tegelijkertijd worden gekeken hoe je meer informatie kan inwinnen en hoe je bezwaar kan maken.’

Binnen het transparantievraagstuk speelt ook het functioneren van het Nationaal Algoritmeregister een grote rol. Het door de overheid geïntroduceerde algoritmeregister, bedoeld om algoritmen inzichtelijk en dus transparant te maken, bevatte begin december 610 geregistreerde AI-systemen. Maar slechts 2 procent van de algoritmen die impact hebben op betrokkenen en daarmee blijft de overheid ernstig in gebreke, schreef de Open State Foundation in een ingezonden opinie in de Volkskrant. Eind januari zijn er overigens welgeteld 730 geregistreerde AI-systemen, dus dat aantal loopt geleidelijk op.

Het is dus maar zeer de vraag in hoeverre het algoritmeregister al echt goed zijn rol vervult, temeer dat de Nederlandse overheid naar schatting 16.000 algoritmen in gebruik heeft en dus het overgrote deel daarvan niet kan worden ingezien. Dat heeft vooral te maken met het feit dat er geen stok achter de deur is in de vorm van een wettelijke verplichting voor overheidsorganisaties om algoritmes op te nemen. Koekkoek (VOLT) wil dat hier nu eindelijk schot in komt. ‘Er ligt al drie jaar een aangenomen motie om het algoritmeregister verplicht te stellen voor overheden. Zowel het vorige kabinet als het huidige zegt: “we wachten het nog even af. Even kijken wat de AI Act doet.” Er lijkt onvoldoende noodzaak te zijn, terwijl die er wel degelijk is.’

Volgens haar sukkelen we maar wat voort, en in de tussentijd hebben algoritmes al wel degelijk impact op burgers. Kathmann (GL-PvdA) vulde haar aan: ‘Ik schrik ervan hoe we ervoor staan. De doelstelling is een transparante overheid, maar wat is nou het plan van de regering om het register meer invulling te geven? Is het kabinet bereid de vrijblijvendheid eraf te halen?’ En volgens Vermeer (BBB) moeten we vooral ook naar de achterliggende datasets kijken. Want pas dan heeft het register pas echt zin, wat hem betreft.

Summier en onbevredigend

Maar de antwoorden van de staatssecretaris Szabó, vooral ook op het punt van het algoritmeregister, waren summier, soms wat afgemeten en daardoor ook onbevredigend. ‘De departementen hebben uw Kamer toegezegd dat zij in 2025 alle hoog-risico-systemen in het register hebben opgenomen.’ Maar veel verder dan ‘aansporen’ kwam Szabó niet. Na enige tijd liet hij zich wel ontvallen dat ‘het vullen van het algoritmeregister sneller moet gaan’ en dat hij het ter sprake wil brengen in de ministerraad. ‘De volgende keer heb ik dan nog meer informatie om met u hierover een debat te kunnen voeren.’

Vermeer (BBB) wilde daarop duidelijkheid van de bewindspersoon: ‘En wanneer komt dan het moment dat de staatssecretaris zegt: vanaf die datum mag een algoritme dat niet in het register staat, ook niet meer worden gebruikt?’ Er zit, qua vulling, wel degelijk een versnelling op, vindt Szabó – hoewel die in werkelijkheid maar minimaal is. Vanaf de zomer wil hij een afweging maken hoe dit verder op te pakken, bijvoorbeeld door wetgeving. ‘Maar wetgeving betekent niet dat er dan er dan geluisterd wordt. Het moet een combinatie zijn van brieven sturen en mensen erop aanspreken.’ Hij besloot met een grapje: ‘Als ik hier over twaalf jaar nog steeds zit en we zijn van 2 naar 4 procent gegaan, dan hebben we echt iets verkeerd gedaan. Ik wil gewoon resultaat zien.’

Het leidde allemaal tot wat gemor. Ergin (DENK) vond de beantwoording van Szabó weinig daadkrachtig overkomen en VVD’er Buijsse beoordeelde de reflectie van de staatssecretaris ook  als ‘wat summier’ – maar dat had dan weer niet direct betrekking op het algoritmeregister.

Data-ethiek en mensbeeld

Het debat ging, met name in het laatste gedeelte, ook over data-ethiek en het achterliggende mensbeeld van het kabinet met betrekking tot AI. Staatssecretaris Teun Struycken (Rechtsbescherming, NSC) gaf, wat dat betreft, een interessant inkijkje. Het precieze karakter van het mensbeeld van dit kabinet noemde hij ‘complex’ – wat maar weer eens aangeeft dat partijen als NSC en PVV fundamenteel anders tegen zaken aankijken. Na even te hebben nagedacht, zei hij dat dit voor hemzelf betekent dat het kabinet ‘naast de inwoners wil staan bij al haar handelen, en dus ook bij de inzet van algoritmes.’ Die moeten volgens hem altijd ten dienste staan van de burgers, en hen niet tegenwerken, zoals is gebeurd in de toeslagenaffaire, waarbij voorspellende algoritmes werden ingezet voor fraude-opsporing.