Inzet ChatGPT botst met wetten en waarden provincies

De introductie van ChatGPT in november 2022 bracht een wereldwijde hype teweeg. Plotsklaps was ook voor niet-nerds duidelijk wat de mogelijkheden zijn van generatieve AI (kunstmatige intelligentie die zelf tekst, afbeeldingen, audio, video of code kan ontwikkelen). Binnen een paar maanden gebruikten 1,5 miljoen Nederlanders ChatGPT. Voor provincies zitten er echter vrijwel onoverkomelijke haken en ogen aan, stelt de interprovinciale ethische commissie in een advies, in ieder geval waar het gevoelige informatie betreft.

Werk besparen?

De tekstgenerator van OpenAI kan ambtenaren werk besparen door bijvoorbeeld automatische samenvattingen te maken van lange teksten, beleidsstukken te verfijnen of mails op te stellen. Maar is dat ook wenselijk? Large Language Models (LLM’s), de taalmodellen die ten grondslag liggen aan tekstgeneratoren zoals ChatGPT, worden getraind met grote hoeveelheden teksten. Ook nieuw ingevoerde teksten gelden als trainingsdata. Dat levert privacy- en copyrightproblemen op. De werking van de taalmodellen leidt tot onbetrouwbare output; teksten die bias bevatten of die totaal uit de lucht gegrepen zijn. Daarnaast wijzen critici op tal van andere nadelen, van mensenrechtenschendingen tot de weerslag op het milieu.

Interprovinciale ethische commissie

Zo bezien is het niet verbazingwekkend dat het eerste advies van de interprovinciale ethische commissie, opgericht op 16 januari 2023, gaat over het verantwoord gebruik van ChatGPT in provincies. De verkenning laat zien waar het eventueel mogelijk kan zijn om generatieve AI in te zetten, en waar men het risico loopt wet- en regelgeving te overtreden. Dat laatste blijkt eigenlijk al snel het geval.

Niet inzetten bij gevoelige informatie

Het is belangrijk de rust te bewaren en niet direct over te gaan tot experimenten in allerhande proeftuinen, schrijft de commissie. ‘Het advies luidt om ChatGPT in ieder geval voorlopig niet in te zetten wanneer het gaat om privacygevoelige, bedrijfskritische, of geheime informatie. Of wanneer er auteursrechtelijke vragen in het spel zijn of wanneer de kwaliteit van output – in welke vorm dan ook - niet door mensen kan worden gecontroleerd of gegarandeerd.’

Overwegingen

De commissie roept provincies op om alleen van LLM’s gebruik te maken wanneer een aantal overwegingen in acht zijn genomen. Welk probleem lost de inzet van een tekstgenerator op dat niet op een andere manier kan worden opgelost? Creëer je geen nieuwe problemen met gebruik ervan? Zijn alternatieven met minder impact onderzocht? Heb je bedacht hoe je omgaat met de beperkingen van de technologie? Is er een duidelijk exit-strategie (kun je snel stoppen als er problemen ontstaan)?

Publieke waarden

Een serieuze maning tot terughoudendheid dus, die voorkomt uit de publieke taak van de provincies. De verkenning biedt een lange reeks argumenten, waarbij publieke waarden als uitgangspunt dienen. Zo is LLM-technologie momenteel niet transparant (als gebruiker weet je niet niet hoe ChatGPT tot zijn antwoord komt en dus ook niet welke bias er in het antwoord is geslopen). Ook de verborgen kosten van de technologie, zoals de impact op het milieu en het versterken van sociale en economische ongelijkheden, komen aan bod.

Wettelijke kaders

Binnen de wettelijke kaders is het gebruik van ChatGPT al snel problematisch. De AVG en het auteursrecht worden waarschijnlijk geschonden door LLM-technologie. De Europese AI Verordening (AI Act) is nog niet van kracht, maar zal waarschijnlijk aanvullende transparantie-eisen bevatten voor LLM’s op het gebied van health and safety, democratie en het milieu.

Geheimhoudingsplicht ambtenaar

Het is maar de vraag in hoeverre toepassingen van ChatGPT te verenigen zijn met de plichten waaraan een ambtenaar moet voldoen vanuit de Provinciewet en de ambtseed, schrijft de commissie. Volgens de Provinciewet heeft een ambtenaar een geheimhoudingsplicht en moet zorgvuldig worden omgegaan met informatie. Dat strookt niet erg met de inzet van een systeem dat wordt getraind met ingevoerde tekst en dat via ‘prompt leaks’ per ongeluk input aan anderen kan lekken.

In de ambtseed belooft de ambtenaar zorgvuldig om te gaan met informatie. De ambtenaar heeft een plicht om geen valse informatie te verstrekken. ‘Wanneer ChatGPT meer autonoom functioneert en teksten genereert is het tot stand komen van valse informatie een reële mogelijkheid,’ stelt het advies.

Copilot

De commissie wijst op het dilemma dat de Nederlandse overheden nauw verweven zijn met Microsoft. Net als de meeste grote techbedrijven integreert Microsoft AI in de eigen software. Dat maakt het opvolgen van het advies in de toekomst ingewikkeld voor provincies. ‘Wij adviseren de provincies hier niet ‘klakkeloos’ in mee te gaan, maar gezamenlijk op te trekken in de keuzes die ze hierin kunnen en willen maken vanuit de publieke waarden die daarbij in het geding zijn,’ schrijft de commissie.

Wordt vervolgd

Het Interprovinciaal Overleg stelt op de website dat zowel technologie als de uitdagingen waarvoor provincies staan voortdurend aan verandering onderhevig zijn. Daarom kunnen ethische overwegingen in de loop der tijd veranderen. De commissie schrijft dat het de ontwikkelingen op de voet blijft volgen en het advies zal bijstellen wanneer daar aanleiding toe is.