Algoritme & AI-Kamer voor toezicht op AI

Het Samenwerkingsplatform Digitale Toezichthouders (SDT) stelt een Algoritme en AI-Kamer in voor het afstemmen van toezicht op kunstmatige intelligentie. De Autoriteit Persoonsgegevens (AP) gaat hier, als regisseur van de AAK, flink op inzetten het komende jaar. Dat staat in de Werkagenda coördinerend algoritmetoezicht in 2024 van de AP.

Ook een DSA-kamer

De AP is sinds 2023 coördinerend toezichthouder op algoritmes en AI en waakt voor de risico’s van algoritmes en AI voor publieke waarden en grondrechten. De AP is regisseur van de Algoritme & AK-Kamer (AAK) van het Samenwerkingsplatform Digitale Toezichthouders (SDT), dat in 2021 is opgericht en waar ook de Autoriteit Consument & Markt (ACM), de Autoriteit Financiële Markten (AFM) en het Commissariaat voor de Media (CvdM) aan deelnemen.

Naast de Algoritme- & AI-kamer komt er ook een DSA-Kamer die toeziet op digitale diensten, zoals online platforms.

Samenwerkende toezichthouders

Algoritmes en AI spelen in vrijwel alle sectoren en domeinen, daarom is samenwerking tussen toezichthoudende en controlerende organisaties van belang, schrijft de AP. In de werkagenda 2024 kondigt de Directie Coördinatie Algoritmes (DCA) van het AP aan in 2024 onder andere rondetafelgesprekken, workshops, voorlichting en presentaties aan (overheids)organisaties en burgers te gaan organiseren. Zo willen ze inzicht krijgen in de knelpunten, uitdagingen en negatieve effecten in de praktijk.

Aandacht voor verboden AI

De AP gaat verdere nauw samenwerken met andere toezichthouders aan voorstellen over de inrichting van het nationale toezicht op de AI Act. Bijzonder aandacht gaat hierbij uit naar het toezicht op verboden AI, bijvoorbeeld op het gebied van social credit-scoring, manipulatie van mensen, en bepaalde vormen van biometrische identificatie voor rechtshandhaving.  Deze verboden treden al snel na de inwerkingtreding van de verordening in werking, rond jaareinde 2024. De DCA treft hiertoe specifieke voorbereidingen.

In 2024 wil de DCA ook verder bouwen aan internationale samenwerking. De focus ligt hierbij op het tot stand brengen van kennisuitwisseling, gezamenlijke incidentmonitoring, ontwikkeling van best practices en het gezamenlijk uitwerken en implementeren van Europese regelgeving en standaarden.