Gemeenten, laat je niet gek maken over AI

In een trendanalyse AI en algoritmen roept de VNG de rijksoverheid en de EU op om bij de ontwikkeling van wet- en regelgeving rondom AI te letten op uitvoerbaarheid, bijvoorbeeld met behulp van uitvoeringstoetsen. Een tweede trendanalyse over taalmodellen is in de maak.

Definitie van belang

Wat is AI? Dat is geen semantische of filosofische vraag, maar een super pragmatische, want de definitie in de AI Act heeft grote gevolgen voor welke systemen er straks onder vallen en in hoeverre de wet ook van toepassing is buiten Europa. In de trendanalyse houdt de VNG de definitie aan van de EU High-level expert group: 'systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met enige graad van autonomie – actie te ondernemen om specifieke doelen te bereiken'. Deze definitie wordt ook gehanteerd in het WRR-rapport Opgave AI. De nieuwe systeemtechnologie.

Angst om achter te blijven

Rond AI vindt enorme hypevorming plaats, waarbij bedrijven een commercieel belang hebben om te doen alsof ontwikkelingen zo snel gaan dat ze nauwelijks zijn bij te benen. Zo spelen ze in op de angst om achter te blijven bij publieke en private organisaties en leiden ze de aandacht af van zaken die nú spelen, zoals bias en discriminatie in AI-systemen, stelt de VNG.

Liever laat de vereniging zich leiden door de Wetenschappelijke Raad voor het Regeringsbeleid (WRR), die AI een systeemtechnologie noemt. Een systeemtechnologie heeft een grote impact op de samenleving, die vooraf niet kan worden voorzien.

Demystificatie

De trendanalyse volgt 5 opgaven volgens de WRR en beschrijft wat ze voor gemeenten betekenen. ‘Demystificatie’ is het komen tot een realistisch beeld van AI. Het advies voor gemeenten is om te zorgen dat iedereen in het lokaal bestuur leert over AI. Wees kritisch tegenover al te hoge verwachtingen van AI en wees open over het eigen gebruik van AI, adviseert de VNG. Voer het bestuurlijke, politieke en maatschappelijke gesprek hierover.

Contextualisering

‘Contextualisering’ gaat over aandacht hebben voor het bredere (technische) ecosysteem waar de AI deel van uitmaakt. Neem niet alleen de techniek, maar ook de toepassing van AI in het beleid op, bepleit de WRR. Gemeenten kunnen voorrang geven aan de ontwikkeling van AI in specifieke domeinen en sectoren. Een andere taak voor gemeenten is om mensen die werken met AI uit te rusten met voldoende kennis en vaardigheden.

Engagement

‘Engagement’ gaat om de vraag wie er betrokken zijn bij de ontwikkeling van AI. Dat zouden niet alleen technici moeten zijn, maar ook ambtenaren en inwoners. ‘Gemeenten kunnen inwoners en maatschappelijke organisaties faciliteren in het opdoen van kennis over AI en deze groepen een stem geven in AI-discussies,’ aldus de trendanalyse.

Regulering

Waar het gaat om ‘regulering’ zijn allereerst de Europese Unie en het rijk aan zet, waarbij het uiteraard wel belangrijk is dat de gemeentelijke belangen worden geborgd. De VNG roept namens gemeenten de rijksoverheid en EU op om bij de ontwikkeling wet- en regelgeving rond AI te letten op uitvoerbaarheid, onder andere door uitvoeringstoetsen te doen.

Positionering

De laatste opgave, ‘positionering’, gaat over de plek die Nederland internationaal inneemt. Blijf weg uit de ‘AI-race’ tussen de Verenigde Staten en China, adviseert de WRR, en zoek juist de samenwerking om de technologische ontwikkelingen bij te sturen. Gemeenten zijn goed bezig, concludeert de VNG, bijvoorbeeld met de samenwerking via Eurocities. Begin dit jaar publiceerden ze standaarden voor transparant gebruik van AI.

Kerninzicht: AI heeft een eigenaar

Hier komt de VNG bij een kerninzicht: ‘Besef dat AI altijd een eigenaar heeft en zodoende wordt ingezet om de belangen van de eigenaar te dienen. De kunst is om als overheid zo te sturen dat AI de collectieve belangen van de samenleving dient en niet slechts die van een kleine groep mensen.’

Europese beleidsontwikkelingen

De trendanalyse gaat in op beleidsontwikkelingen in Europa, zoals de AI Act en het AI-verdrag van de Raad van Europa. Daarnaast publiceert het Congres van Lokale en Regionale Overheden binnenkort een Handboek Mensenrechten: Human Centred Artificial Intelligence.

Algoritmeregister

Voor de rijksoverheid vormt de Werkagenda Waardengedreven Digitalisering het uitgangspunt voor beleid rondom AI en algoritmen. Decentrale overheden worden aangespoord om het landelijke algoritmeregister te vullen. Een interbestuurlijke werkgroep publiceert binnenkort een 'Handreiking Algoritmeregister' en 'Handleiding Publicatiestandaard'. De Autoriteit Persoonsgegevens is de algoritmetoezichthouder en komt eind 2023 met een rapport over de ontwikkelingen in het algoritmetoezicht en de risico’s van algoritmes.

Implementatiekader

Het rijk werkt ook aan een implementatiekader voor de toepassing van algoritmen. Dat moet alle overheden ondersteunen bij een verantwoorde inzet van algoritmen. Het implementatiekader is echter niet bedoeld als alomvattend, waarschuwt de VNG. ‘Veel sectorspecifieke toepassingen kennen aanvullende vereisten die niet allemaal te vatten zijn in één kader.’ Met andere woorden: overheden moeten zelf blijven nadenken en kunnen het kader niet gebruiken als checklist.

Publieke waarden versterken

Gemeenten en de VNG doen ook zelf hun best om de systeemtechnologie in goede banen te leiden. Gemeenten kunnen AI gebruiken om efficiënter en effectiever te werken, maar ook om publieke waarden te versterken, zoals privacy, stelt de VNG. Zet AI bijvoorbeeld in om gebruikte gegevens te anonimiseren. Een voorbeeld uit de trendanalyse is het hergebruik van camerabeelden door de gemeente Utrecht, met als doel de hoeveelheid camera’s in de stad te verminderen.