Van Huffelen: 'Wees transparant over gebruik AI'

‘Ga niet blind experimenteren met generatieve AI,’ waarschuwt demissionair staatssecretaris Alexandra van Huffelen op een drukbezocht iBestuur Congres. ‘We willen ook geen ongecontroleerde medicijnen voorgeschreven krijgen.’

Internationaal AI-panel

Volgens Ursula von der Leyen moet er een internationaal panel komen dat de ontwikkelingen bij AI nauwgezet volgt en met aanbevelingen komt, zoals het klimaatpanel van de VN dat voor de klimaatverandering doet. ‘Zou ze dat idee van mij hebben?’ vroeg Van Huffelen zich met een glimlach vanmiddag af bij het plenaire debat op het iBestuur Congres 2023. Zij pleitte immers vorige week bij de opening van het Academisch Jaar in Tilburg ook al de komst van een internationaal centrum dat het onderzoeken, testen én reguleren van AI op zich kon nemen. Liefst in Nederland uiteraard.

Het gaat heel hard

Generatieve AI is niet meer weg te denken uit de maatschappij, daar is iedereen op het iBestuurcongres het  wel over eens. Maar de vraag is nu: hoe gaan we ermee om? En wat is de rol van de overheid hierin? ‘Het gaat heel hard,’ constateert de staatssecretaris. ‘Het is nu zaak dat we de regels op orde krijgen.’

Gecontroleerde omgeving

Door meer datagedreven te gaan werken als overheid kan er veel meer dan we nu doen, is een veelgehoorde stelling. Van Huffelen zou graag een veel proactievere rol vervullen als overheid, bijvoorbeeld als het gaat om schuldsignalering en ondersteuning daarbij. Maar doe het in kleine stappen, waarschuwt ze. ‘Ga niet blind experimenteren, doe pilots, zorg voor een gecontroleerde omgeving. En wees transparant. Als je AI gebruikt bij het nemen van een besluit, leg dat dan uit.’ Ze vergelijkt het met de controle op medicijnen. ‘Je wilt ook geen ongecontroleerde medicijnen voorgeschreven krijgen.’

Proactieve dienstverlening banken

Ja, en wie gaat wat doen? Ook de banken denken aan de ontwikkeling van proactieve dienstverlening, vertelt Medy van der Laan, voorzitter van de Nederlandse Vereniging van Banken (NVB). Ook van haar horen we ‘We kunnen veel meer met onze data dan we nu doen’. ‘We zouden met onze algoritmes mensen kunnen waarschuwen bij schulden en daar dienstverlening op kunnen zetten. Maar we doen het niet.’ Het onderwerp ligt gevoelig bij de banken. Eerst moet het maatschappelijk debat hierover gevoerd worden, vindt ze.

Vertrouwenswekkend AI inzetten

Ombudsman Reinier van Zutphen stelt in het debat dat de overheid de laatste decennia veel taken heeft overgedragen aan de markt. ‘Over een groot aantal zaken gaat de overheid niet eens meer.’ Hij zou graag zien dat de overheid AI gaat benutten om het leven van burgers makkelijker te maken. ‘Maar doe dat wel op een vertrouwenwekkende manier.’

Te veel overgedragen aan markt

De oprichter van Waag, Marleen Stikker, verzet zich tegen het concept dat de overheid allemaal mooie diensten bedenkt en die vervolgens laat uitvoeren door private partijen. ‘We hebben onze maatschappelijke instituties volledig uitgekleed.’ Van de 2 miljard die geïnvesteerd werd in het programma Werk in uitvoering had minstens de helft in maatschappelijke initiatieven en collectieve burgerinitiatieven geïnvesteerd moeten worden, vindt zij. ‘Organiseer collectiviteit en investeer daarin,’ is haar advies. Deze woorden raken de staatssecretaris duidelijk: ‘We hebben te veel naar de markt gebracht,’ erkent ze met enige spijt.

Technologie niet demissionair

Van Huffelen pleit voor regulering van AI, maar dat betekent niet dat ze tegen innovatie is. Zolang het maar in een gecontroleerde omgeving gebeurt. Op de vraag of ze nu achterover kan leunen nu ze demissionair is, zegt ze resoluut: ‘Technologie is niet demissionair’.

Dit artikel verscheen eerder bij iBestuur.