Toezichthouders op AI voor bescherming grondrechten bekend

Het College voor de Rechten van de Mens is vastgesteld als één van de grondrechtenautoriteiten Artificiële Intelligentie (AI). Het College moet er in Nederland op toezien dat grondrechten worden gerespecteerd bij de toepassing van AI.

Verplichting

Onder de AI-verordening zijn alle lidstaten verplicht om grondrechtenautoriteiten op het gebied van AI aan te stellen. Artikel 77 van de AI-verordening omschrijft de grondrechtenautoriteiten als ‘Nationale overheidsinstanties of -organen die de nakoming van verplichtingen krachtens Unierecht ter bescherming van grondrechten, waaronder het recht op non-discriminatie, met betrekking tot het gebruik van de in bijlage III vermelde AI-systemen met een hoog risico controleren of handhaven.’

Alle lidstaten moesten vóór 2 november 2024 een lijst openbaar maken en de Europese Commissie hierover informeren. In een brief aan de Tweede Kamer laat de regering weten wie de voorlopige autoriteiten voor de bescherming van grondrechten zijn geworden. De lijst is een levend document en kan dus nog worden aangepast.

Mensenrechten en gegevensbescherming

Het College voor de Rechten van de Mens is grondrechtenautoriteit als nationaal instituut voor de rechten van de mens en als gelijke behandelingsorgaan. Daarnaast zijn er een aantal toezichthouders aangesteld als grondrechtenautoriteiten voor het gegevensbeschermingsrecht. Het gaat om de Autoriteit Persoonsgegevens, de procureur-generaal bij de Hoge Raad, de voorzitter van de Afdeling Bestuursrechtspraak Raad van State, het gerechtsbestuur van de Centrale Raad van Beroep en het gerechtsbestuur van het College van Beroep voor het bedrijfsleven.

De komende periode wordt het grondrechtentoezicht op AI verder uitgewerkt. In augustus 2026 treden de bepalingen uit de AI-verordening over hoog-risico AI in werking en gaat het toezicht hierop in. De grondrechtentoezichthouders krijgen dan het recht om documentatie over hoog risico AI-systemen op te vragen. Ook kunnen ze een verzoek indienen bij de markttoezichthouder om AI-systemen met een hoog risico te laten testen.

Als de markttoezichthouder een ernstig incident vaststelt, moet hij de relevante grondrechtenautoriteit daarvan op de hoogte te stellen. Ook moet hij hem informeren over AI-systemen waarbij een risico voor grondrechten is vastgesteld. Samen nemen ze indien nodig corrigerende maatregelen.