Waakhond gaat toezien op algoritmes

De Autoriteit Persoonsgegevens (AP) gaat strenger toezien op artificiële intelligentie (IE) en algoritmes die gebruik maken van persoonsgegevens. Dat zegt AP-voorzitter Aleid Wolfsen. Maandag wordt in de Tweede Kamer een rondetafelgesprek gehouden over het wettelijk kader en toezicht van dit soort systemen.

Analyseren

Met algoritmes en AI kunnen computersystemen grote hoeveelheden data analyseren en beslissingen nemen of helpen bij beslissingen. Volgens Wolfsen worden algoritmes inmiddels op grote schaal ingezet. Niet alleen door bedrijven, maar ook door overheden en overheidsdiensten als de politie en belastingdienst. Wolfsen: ‘het inzetten van algoritmes biedt veel kansen, maar er kleven ook serieuze risico’s aan. In een democratische rechtsstaat heb je bijvoorbeeld recht op een begrijpelijke motivering voor een voor jou nadelige beslissing. Anders kun je je niet verdedigen en kan een rechter dat niet toetsen. Daarom is transparantie zo cruciaal.’

SyRi

Recent concludeerde de rechtbank nog dat het Systeem Risico Indicatie (SyRi) een te grote inbreuk is op de privacy van burgers. Het fraude-opsporingssysteem maakt gebruik van grote hoeveelheden persoonlijke data van burgers om tot een risico-indicatie te komen, en volgens de rechter was het voor die burger onduidelijk op grond van welke data een beslissing werd genomen.

Regels

Volgens het AP zijn er al strenge regels: er moet een grondslag zijn voor de verwerking van persoonsgegevens, en het proces moet altijd transparant en controleerbaar zijn. Gegevens die verwerkt worden voor het ene doel, mogen niet later ineens voor een ander doel gebruikt worden.

Volgens Wolfsen zijn de AVG-beginselen van rechtmatigheid, behoorlijkheid en transparantie een goede basis om de inzet van AI en algoritmes op een positieve wijze in te zetten. Want met de technieken zijn mooie toepassingen mogelijk, zegt Wolfsen, want ‘de grens tussen ‘wat geweldig dat dit kan’ en ‘bloedlink wat hier gebeurt’ kan juist hier soms akelig dicht bij elkaar komen.’

Rechtsgebieden

Ook de controle van applicaties van persoonlijke data, zoals algoritmes en AI, vallen wettelijk onder het gezag van de AP. Maar het gaat daarbij wel alleen om de toepassing van persoonsgegevens. Volgens de AP kan de inzet van algoritmes ook gevolgen hebben voor andere rechtsgebieden als consumentenrecht, mededingingsrecht en anti-discriminatie. Daarom wordt in het toezicht op deze toepassingen ook samengewerkt met andere toezichthouders.