Wie zet het keurmerk op hoog risico-AI?

Het moet snel duidelijk worden welke organisaties de verschillende onderdelen van het toezicht op kunstmatige intelligentie (AI) op zich zullen nemen. Dat schrijven de Autoriteit Persoonsgegevens (AP) en de Rijksinspectie Digitale Infrastructuur (RDI) in een advies aan het kabinet. De eerste onderdelen van de AI Act zijn waarschijnlijk begin 2025 al van kracht.

Op tijd geld en personeel nodig

Het advies is opgesteld door de AP en de RDI op verzoek van het ministerie van Economische Zaken en het ministerie van Binnenlandse Zaken en Koninkrijksrelaties. Aan het advies werkten 20 andere toezichthouders mee, die mogelijk een rol gaan spelen in het toezicht op AI. Centraal in het advies staat dan ook het belang van goede samenwerking tussen toezichthouders. Daarnaast benadrukken de AP en de RDI dat er op tijd voldoende geld en personeel beschikbaar moet zijn, zodat ze zich kunnen voorbereiden op hun taken, zoals voorlichting en handhaving.

De toezichthouders vragen het kabinet om een aantal zaken al snel te besluiten. Zo zijn er grondrechtentoezichthouders nodig, die erop letten dat de grondrechten van alle Nederlanders niet worden geschonden door AI-systemen. In het advies is die rol voor het College voor de Rechten van de Mens (CRM) en de AP.  Ook moeten er instanties worden aangewezen om te beoordelen of AI-systemen aan Europese standaarden voldoen.

Verboden AI-systemen

Vorige maand stemden de Europese ministers in met de AI verordening, oftewel de AI Act. Sommige onderdelen daarvan zijn waarschijnlijk al in januari 2025 van kracht, waaronder het verbod op AI-systemen met een onaanvaardbaar risico. In het advies staat dat de AP verantwoordelijk wordt voor het toezicht op verboden AI-systemen.

Keurmerk

De AI Act regelt ook dat AI-systemen met een hoog risico alleen worden toegelaten als ze aan strenge eisen voldoen. De systemen krijgen een CE-markering, net als bijvoorbeeld liften en speelgoed. In het advies raden de toezichthouders aan dat het toezicht op AI zoveel mogelijk moet aansluiten bij het bestaande toezicht per sector. Dat betekent dat het CE-keurmerk voor AI-systemen wordt gegeven door de sectorale toezichthouder. De Nederlandse Voedsel- en Warenautoriteit (NVWA) blijft bijvoorbeeld speelgoed keuren, ook als er AI in verwerkt zit.

Er zijn ook producten waarin hoog risico-AI verwerkt wordt, waarvoor nu nog geen CE-markering verplicht is. Daarvoor komt het toezicht bij de AP te liggen, los van de sector waarin de systemen worden ingezet. De AP wordt de zogeheten marktoezichthouder.

Samenwerking cruciaal

Aleid Wolfsen, voorzitter van de AP, zegt: ‘De markttoezichthouder gaat erop toezien dat op de markt gebrachte AI ook echt voldoet aan eisen op het gebied van bijvoorbeeld het trainen van AI, transparantie en menselijke controle. Dat vereist veel specialistische kennis en kunde, en het is efficiënt als die gebundeld is. Belangrijk is ook dat de AP dan het overzicht heeft: de bedrijven die zulke AI ontwikkelen, doen dat vaak niet alleen voor één sector. Samenwerking met sectorale toezichthouders is daarbij cruciaal.’

Er staan twee uitzonderingen in het advies: het markttoezicht op AI in de financiële sector ligt bij de Autoriteit Financiële Markten (AFM) en De Nederlandsche Bank (DNB). Het marktoezicht op AI-systemen in de kritieke infrastructuur ligt bij de Inspectie Leefomgeving en Transport (ILT) en de RDI. Een ander lastige toepassing is AI in de rechtspraak. Daarover zegt het advies dat het markttoezicht hierop ‘zodanig vorm moet krijgen dat de onafhankelijkheid van rechterlijke autoriteiten is gewaarborgd.’

AI Office

De Nederlandse toezichthouders zijn al een jaar bezig om het toezicht op AI vorm te geven. Ook in de andere lidstaten moet het nationale toezicht snel worden geregeld. De Europese toezichthouders zullen veel moeten samenwerken, met elkaar en met het nieuwe Europese AI Office, dat toezicht zal houden op grote AI-modellen.