Onduidelijkheid over AI-toezicht blijft na nieuw overleg

Opnieuw werd er tijdens een rondetafelgesprek in de Kamercommissie Digitale Zaken gesproken over het toezicht op AI. Maar alle goede intenties ten spijt, is nog steeds niet helemaal duidelijk of dat toezicht in het versnipperde landschap nu wel of niet goed is geregeld. Vragen daarover van de vier aanwezige Kamerleden bleven uit.

We moeten oppassen voor fragmentatie bij AI-toezicht, juist veel samenwerken en toewerken naar transparante AI. Daar waren het zowat alle organisaties die aanschoven bij het overleg over normuitleg en toezicht op AI het wel over eens.

Blikvanger was Aleid Wolfsen, voorzitter van de Autoriteit Persoonsgegevens (AP), die pleitte voor een Nationaal Deltaplan. Dat moet ervoor zorgen dat burgers, bedrijven en overheden op een verantwoorde manier omgaan met kunstmatige intelligentie. Maar, misschien nog wel belangrijker: hij waarschuwde voor een ‘serieuze ramp’ als het toezicht op AI reactief – dus vooral achteraf – gebeurt. ‘Je moet veel pro-actiever te werk gaan en aan de voorkant samenwerken met organisaties om normuitleg te geven. Voorkomen is beter dan genezen. Wanneer een algoritme wordt ingezet, moet je ook uit eigen beweging spontaan nagaan of het wel goed functioneert, want klachten zul je niet of nauwelijks ontvangen,’ aldus Wolfsen.

Inrichten van de toezichtstructuur

'Zijn' AP en de Rijksinspectie Digitale Infrastructuur (RDI) trekken samen op bij de coördinatie van het toezicht op AI. De privacywaakhond vooral op het gebied van gegevensbescherming, de RDI als medecoördinator op ‘inhoudsniveau’, die andere toezichthouders kan assisteren.

'Het is een verkenning en voor ons allemaal een nieuw terrein. En dus zullen we de dialoog moeten voeren. Hoe herkennen we de risico’s? Dat vraagt om een proactieve houding,’ zei Angeline van Dijk van de RDI in het rondetafelgesprek.  Wat haar betreft valt het toezicht op AI binnen de al bestaande toezichtstructuur. ‘Laat ik het stellig zeggen: het toezicht moet aansluiten op de taken en rollen van de verschillende toezichthouders per domein en sector.’ Door deze aanpak winnen we juist aan kracht, aldus Van Dijk. ‘Je kan dit niet op een plek neerleggen. Ik geloof wel in een zekere mate van coördinatie - waarbij Van Dijk nadrukkelijk naar haar buurman Aleid Wolfsen keek.

In een interview met iBestuur deed Van Dijk al een poging de Kamer gerust te stellen over deze pragmatische Hollandse werkwijze, the Dutch way. ‘Laten we in hemelsnaam niet denken dat je met één alomvattende partij het toezicht op AI kunt invullen. Het is juist ongelofelijk belangrijk dat er overal kennis ontstaat van hoe AI werkt en wat de risico’s zijn. Daarom leggen we het toezicht dáár neer waar de kennis van de sector al zit.’

In juni verscheen van de AP en het RDI het advies over het toezicht op naleving van de AI Act, in opdracht van de ministeries van EZK en BZK. Daarin staat naast het advies dat er zo veel mogelijk sectoraal wordt belegd, ook dat snel duidelijk moet worden welke organisaties de verschillende onderdelen van het toezicht op kunstmatige intelligentie (AI) op zich zullen nemen. De toezichthouders vragen het kabinet om een aantal zaken snel te besluiten, zeker met het oog op de AI-verordening waarvan sommige onderdelen waarschijnlijk al vanaf 2025 van kracht zullen zijn.

Zonder duidelijke regierol

Maar dé vraag die dan nog altijd boven de markt blijft hangen: komt het goed met het toezicht op AI, met die wildgroei aan toezichthouders zonder een duidelijke regierol? Immers, een dialoogvorm met een zekere mate van coördinatie is een mooi streven, maar het kan ook verzanden in besluiteloosheid. De vier Kamerleden (van FvD, PVV, NSC en GroenLinks-PvdA) die aanwezig waren, stelden er verder geen vragen over. Harmen Krul (CDA), bij dit debat afwezig, deed dat bij een eerdere bijeenkomst in april dit jaar wel heel nadrukkelijk. ‘Het kabinet overlegt met zeven toezichthouders. En dan is er ook nog een Werkgroep AI, onder de vlag van de Inspectieraad, waarin meer dan twintig rijksinspecties, colleges en marktoezichthouders zitting hebben,’ aldus Krul. Daarnaast is er het Samenwerkingsplatform Digitale Toezichthouders, dat is opgericht om samen in te spelen op alle digitale ontwikkelingen, waaronder kunstmatige intelligentie. In dat verband zijn vier toezichthouders actief. ‘Daar schrik ik wel van,’ sprak Krul toen. ‘Dit is wel erg versnipperd en gefragmenteerd.’

Meer budget?

Kathmann (GL-PvdA), die destijds een soortgelijk geluid liet horen, merkte tijdens het rondetafelgesprek wel op dat zowel het College voor de Rechten van de Mens als de Autoriteit Persoonsgegevens aangeven dat er te weinig budget is voor adequaat toezicht. Ze wilde weten wat de gevolgen hiervan zijn. Justin Hoegen Dijkhof van het College voor de Rechten van de Mens zei daarop dat beperkte budget voor zijn organisatie een 'grote zorg' is. De nieuwe taken die erbij komen, moeten volgens hem niet licht worden opgevat. 'Je kunt deze taken er niet zomaar bij doen met zoveel verschillende verschijningsvormen en risico's.’