Overheid werkt aan noodplan om algoritmes tijdig te stoppen

Het kabinet werkt op verzoek van de Tweede Kamer aan een discriminatieprotocol waarin onder meer een noodplan is opgenomen om een algoritme te kunnen stoppen wanneer dit fouten maakt. Dat meldt staatssecretaris Zsolt Szabó in antwoord op Kamervragen van Denk.

Uit onderzoek van de Algemene Rekenkamer werd in oktober duidelijk dat de overheid volop gebruikmaakt van AI, maar de risico’s niet altijd vaststelt. De fractie ondervroeg daarop Szabó en wilde onder meer weten welke maatregelen hij gaat nemen.

Veel bestaande regelgeving

De staatssecretaris vermeldt in zijn antwoord geen nieuwe maatregelen, maar verwijst onder meer naar bestaande Europese regelgeving op het gebied van AI, mensenrechtentoetsen, de AVG en het verbod op discriminatie waar toezichthouders op letten. Ook stelt hij dat er diverse tools zijn ontwikkeld om discriminatie door algoritmes te voorkomen. Daarnaast is er een eerste versie van een discriminatieprotocol gelanceerd.

Noodplan smeden

In het protocol, dat is opgenomen in het Algoritmekader, zijn de lessen van en ervaringen met de Toeslagenaffaire en DUO (Dienst Uitvoering Onderwijs) verwerkt. "Het kabinet investeert in vroegtijdige toetsing, maar mocht het ondanks alle voorzorgsmaatregelen toch misgaan, is het belangrijk om een werkwijze te hebben om de situatie te herstellen." Overheden kunnen het discriminatieprotocol gebruiken bij hun eigen werkwijze. Een onderdeel ervan is het smeden van een noodplan, waarmee een algoritme kan worden gestopt als het fouten maakt. Ook richt het protocol zich op het herstellen van de schade. "Onderdeel is het informeren van betrokkenen en zorgdragen voor adequate herstelprocedures", schrijft Szabó.

Niet alle AI-systemen in register

Szabó meldt, op de vraag waarom slechts vijf procent van de AI-systemen van de overheid is opgenomen in het openbare algoritmeregister, dat niet alle AI-systemen hoeven te worden geregistreerd. Bijvoorbeeld als het gaat om een experiment dat geen impact heeft op burgers of bedrijven, of als de impact van een AI-systeem met name indirect is. "Mij is bekend dat veel overheden, zowel binnen het Rijk als daarbuiten, bezig zijn het register te vullen, maar dat het inventariseren, beoordelen en registreren van AI-systemen tijd en capaciteit vraagt."

Gemeenten worden gestimuleerd

Het ministerie van BZK probeert publicaties in het algoritmeregister zoveel mogelijk te stimuleren en neemt proactief contact op met overheden. "Er wordt ondersteund met verschillende instrumenten, zoals de handreiking algoritmeregister, templates van leveranciers, ondersteuning van een implementatieteam, zogenoemde aansluitsessies, een regiotour, een nieuwsbrief en artikelen met tips van organisaties die al eerder hebben gepubliceerd", schrijft Szabó.