Overheden raadplegen over AI is 'absolute noodzaak'

Lokale overheden moeten meer worden geraadpleegd bij het gebruik van kunstmatige intelligentie (AI). Dat schrijft het Europees Comité van de Regio’s in een advies voor de Europese Commissie om meer onderzoek te doen naar risicovolle AI. Het comité betreurt het dat lokale overheden niet worden genoemd in het ontwerp voor nieuwe Europese AI-wetgeving.

Strengere eisen

In het advies roept het comité op tot meer transparantie en strengere eisen, met name als het gaat om risicovolle AI-systemen. En ‘relevante lokale en regionale overheden moeten altijd worden geraadpleegd wanneer AI-systemen worden gebruikt voor de “realtime” biometrische identificatie van natuurlijke personen op afstand in openbaar toegankelijke ruimten’, schrijft het comité.

Belangrijke rol

Er komt Europese wetgeving aan die de Europese Unie meer grip moet geven op AI. Het comité is er ‘stellig van overtuigd’ dat de verordening ‘steden in staat zou moeten stellen om deel te nemen aan het toezicht op AI-systemen en verslag uit te brengen over de invoering hiervan’. Het comité betreurt het echter dat lokale en regionale overheden niet worden genoemd, ‘ondanks hun belangrijke rol’.

Absolute noodzaak

‘Hoewel de lidstaten de toepassing van de verordening niet zouden mogen dwarsbomen, is adequate raadpleging van lokale en regionale overheden over het gebruik van risicovolle AI-systemen wel een absolute noodzaak’, schrijft rapporteur Guido Rink, die tevens wethouder is in Emmen. ‘Bovendien hebben we veel sterkere waarborgen nodig voor sociale scoring door overheidsinstanties met behulp van AI, een praktijk die kan leiden tot discriminatie en sociale uitsluiting, terwijl het anderzijds wel mogelijk moet blijven om AI met menselijk toezicht te gebruiken voor een betere dienstverlening.’