Van Huffelen niet bang voor ‘warrig’ toezicht op AI

Verschillende toezichthouders houden zich bezig met het toezicht op algoritmes en de AI Act. Waar is het overzicht? Dat vroegen meerdere Kamerleden zich af tijdens een debat over de inzet van AI en data-ethiek in de Kamercommissie Digitale Zaken. Demissionair staatssecretaris Alexandra van Huffelen meent dat het goedkomt. ‘Dit wordt geen warrige toestand.’

Veel toezichthouders

Onder andere Barbara Kathmann (PvdA) en Harmen Krul (CDA) maken zich zorgen over al die verschillende toezichthouders die zullen toezien op de algoritmewetgeving en de afstemming met het kabinet.

‘Het kabinet overlegt met zeven toezichthouders. En dan is er ook nog een Werkgroep AI, onder de vlag van de Inspectieraad, waarin meer dan twintig rijksinspecties, colleges en marktoezichthouders zitting hebben,’ aldus Krul. Daarnaast is er het Samenwerkingsplatform Digitale Toezichthouders, dat is opgericht om samen in te spelen op alle digitale ontwikkelingen, waaronder kunstmatige intelligentie. In dat verband zijn vier toezichthouders actief. Dat zijn, naast de Autoriteit Persoonsgegevens (AP), de Autoriteit Financiële Markten, Autoriteit Consument & Markt en het Commissariaat voor de Media.

Versnipperd en gefragmenteerd

Toen Krul dat las, schrok hij naar eigen zeggen wel. ‘Dit is allemaal wel heel versnipperd en gefragmenteerd. De toezichthouders geven dat zelf ook aan. Zien we door de bomen straks het bos nog wel?’ Kathmann eist actie: ‘Ik wil dat de rol van de toezichthouders concreet wordt. Kan de staatssecretaris op papier zetten wie wat doet? Dan kunnen wij als Tweede Kamer daarop sturen.’  

Samenwerkingsplatform

Van Huffelen ziet veel heil in het samenwerkingsplatform, dat onlangs nog een Algoritme en AI-Kamer instelde voor het afstemmen van toezicht op kunstmatige intelligentie, met de AP als regisseur. ‘Ik ben er heel blij mee dat de toezichthouders hierin samenwerken, zeker nu we de AI Act gaan implementeren.’ Veel zorgen over de versnippering maakt zij zich overduidelijk niet, laat staan dat er een ‘warrige toestand’ zou ontstaan: ‘Het is belangrijk dat we het toezicht op al die verschillende algoritmen in al die verschillende domeinen gecoördineerd aanpakken. Dat vindt plaats in dat samenwerkingsplatform.’

Maar op de vraag hoe de coördinatie verloopt met al die andere toezichthouders, ging ze niet in. Vanuit de Kamer werd er verder niet op doorgevraagd. Krul was op dat moment zelf afwezig.

Complexe algoritmes

De AP heeft extra geld gekregen voor toezicht op AI en richt zich als coördinerend toezichthouder op algoritmes en AI dit jaar onder meer op transparante AI. In die hoedanigheid heeft de privacywaakhond ook toegang tot complexe algoritmes, zowel bij de ontwikkeling ervan als de toepassing, benadrukte Van Huffelen. Extra parlementaire controle daarop – een suggestie van Jesse Six Dijkstra (NSC) – vindt ze daarom niet nodig. Jan Valize (PVV) vroeg zich wel af of de AP wel voldoende is toegerust op de nieuwe taken. Volgens Van Huffelen is dat op dit moment het geval. ‘We zien voldoende capaciteit. Maar we moeten kijken hoe dat straks gaat met de AI Act.’

Algoritmeregister

Het is wel belangrijk dat overheidsorganisaties, vanuit die wens tot transparantie, algoritmes in het Algoritmeregister toevoegen. Van Huffelen: ‘Ik doe daarom nog eens de nadrukkelijke oproep dat register compleet te maken.’ In het register, dat eind 2022 van start ging, wordt informatie vrijgegeven over algoritmes die Nederlandse overheden gebruiken voor automatische en semiautomatische besluitvormingen. Momenteel zijn er een kleine 350 algoritmen van de overheid in opgenomen. Het kabinet werkt sinds januari aan een traject dat duidelijkheid moet verschaffen over verplicht deelnemen aan het algoritmeregister, meldde Van Huffelen eerder deze week aan de Eerste Kamer. Wanneer die verplichting er is, is nog onbekend.

Veel aandacht voor risico's

In het debat, waarin dus vooral werd gesproken over de rol van de toezichthouders, de implementatie van de AI Act en het Algoritmeregister, werden de risico’s van algoritmes veelvuldig aangestipt – begrijpelijk, met het Toeslagenschandaal nog vers in het geheugen. Tweede Kamerlid Wim Meulenkamp (VVD) wil dat de mens zoveel mogelijk centraal staat in algoritmes. Van Huffelen beriep zich wederom op transparantie. ‘Zodat het voor iedereen duidelijk is hoe algoritmes tot stand komen. Daar kun je als burger ook beroep tegen aantekenen.’

Vruchten plukken van AI

Naast de gevaren was er zijdelings ook aandacht voor de positieve kanten van (generatieve) AI. Die kansen zijn er ook, zowel in de publieke als de private sector en laten we die vruchten dan ook plukken, aldus de staatssecretaris. ‘Denk bijvoorbeeld aan de inzet van generatieve AI bij het verbeteren van de dienstverlening. Zodat vragen van inwoners sneller worden beantwoord. Maar we zijn daar natuurlijk wel voorzichtig mee.’ Het leverde haar een compliment op van PVV’er Valize: ‘Mooi dat de staatssecretaris deze positieve kanten benoemt.’

Naar alle waarschijnlijkheid komt er nog een technische briefing over de AI Act, gaf Van Huffelen aan. ‘Dan krijgt ook de Kamer meer inzicht in hoe we dit gaan implementeren.’