AI Act nog onbekend bij veel gemeenten

Zijn gemeenten voorbereid op de komst van de onlangs aangenomen Europese kunstmatige-intelligentieverordening, ofwel de AI Act? Studenten van de Thorbecke Academie onderzochten het. Wat blijkt? De ene gemeente houdt de ontwikkelingen nauwlettend in de gaten, de andere gemeente wist nog van niets.

Champagne

Plop! Op woensdag 13 maart jl. kon de kurk van de champagnefles in de Europese Unie: de eerste uitgebreide wetgeving op het gebied van kunstmatige intelligentie (AI) was een feit. De AI Act moet ervoor zorgen dat AI betrouwbaar en veilig is en de grondrechten van de EU respecteert. Tegelijkertijd moet de wet innovatie ondersteunen en zorgen dat Europa blijft meetellen. Na een overgangsperiode van twee jaar zal de verordening in 2026 in werking treden.

Ethiek, training en kennisdeling

In hoeverre zijn gemeenten al voorbereid op de komst van de wet? Dat onderzochten studenten van de Thorbe­cke Academie. Het onderzoek werd tussen september en december 2023 uitgevoerd in opdracht van het lectoraat ‘Bestuur en Veiligheid in een Digitaliserende Samenleving’, onderdeel van de onderzoeksgroep Cybersafety van NHL Stenden Hogeschool in Leeuwarden. De resultaten zijn gebundeld in een onderzoeksrapport en een infographic. De onderzoekers concluderen dat de mate van bewustzijn en implementatie van de AI Act sterk varieert onder gemeenten. Waar de ene gemeente volop inzet op ethiek, training van medewerkers en kennisdeling, was de andere tot voor kort nog niet op de hoogte van het bestaan van de wet.

3 vragen

Alle 342 Nederlandse gemeenten kregen in november 2023 een mail met de volgende vragen toegestuurd:

1. Is iemand binnen uw organisatie op de hoogte van de AI Act en de verplichtingen die deze wetgeving met zich meebrengt?

2. Wordt er actie ondernomen binnen uw gemeente om het bewustzijn omtrent de AI Act te vergroten? 

3. Zijn er binnen uw gemeente al ­veranderingen doorgevoerd om te voldoen aan de AI Act?

78 procent op de hoogte

88 gemeenten (26 procent) vulden de ­enquête in. Hoewel van deze groep de meeste gemeenten (78 procent) op de hoogte zijn van de komst van de AI Act, heeft slechts 48 procent al actie ondernomen om het bewustzijn onder medewerkers over de AI Act te vergroten. Een kwart van de gemeenten die heeft gereageerd, had ten tijde van het onderzoek ­veranderingen doorgevoerd om aan de wetgeving te voldoen.

Onzekerheid

Enkele gemeenten geven als commentaar bij het onderzoek dat er context mist bij de antwoorden doordat ze alleen met ja of nee op de enquêtevragen konden antwoorden. Dat het onderzoek plaatsvond voordat de kogel door de kerk was - de AI Act was nog niet aangenomen - draagt bij aan onzekerheid over interpretatie van de antwoorden, aldus de onderzoekers. Er was echter wel een mogelijkheid om toelichting te geven op de antwoorden.

Privacy-afwegingen registreren

Een gemeente die door de onderzoekers als ‘heel bewust’ wordt gekwalificeerd, schrijft: ‘We hebben ­besloten dat wij vanaf nu stapsgewijs onze algoritmes in het algoritmeregister gaan publiceren. Zo bereiden we ons voor op de verplichting en staan we bewust stil bij en registreren we de privacy-afwegingen rondom inzet en gebruik van algoritmes.' Een toelichting van een niet-bewuste gemeente luidt als volgt: ‘We moeten eerlijk toegeven dat wij, voor deze mail, niet op de hoogte waren van deze ontwikkeling.’

Algoritmeregister

Gemeenten die proactief met de AI Act aan de slag zijn, hebben veelal intern beleid opgesteld voor de omgang met AI. Door middel van trainingen werken ze aan de bewustwording en kennis van medewerkers. Ook schrijven veel deelnemers
dat ze zich voorbereiden om impactvolle algoritmes te registeren in het landelijke algoritmeregister. Dit is nu nog niet verplicht, maar na afloop van de overgangsperiode wel.

Veel deelnemers aan het onderzoek vragen spontaan om de onderzoeksresultaten. Een enkele gemeente verzoekt de studenten om advies over de AI Act. Rond de zomer wordt de meting herhaald.

Lees het volledige artikel in Binnenlands Bestuur 06 van deze week (inlog).