Vier principes voor inzet ChatGPT

In hoeverre mogen ambtenaren in hun werk gebruikmaken van kunstmatige intelligentie die zelfstandig tekst, afbeeldingen, audio, video of code kan ontwikkelen op basis van een opdracht in natuurlijke taal, zoals het Nederlands? De gemeente Nijmegen hanteert vier principes voor het gebruik van generatieve AI.

Niet ingewikkeld

Het ministerie van Binnenlands Zaken en Koninkrijksrelaties (BZK) is druk met het organiseren van klankbordgroepen en meet-ups om input op te halen voor een landelijke visie op generatieve AI, die eind dit jaar wordt verwacht. In een trendanalyse die begin deze maand verscheen, concludeert de Vereniging van Nederlandse gemeenten (VNG) dat gemeenten baat hebben bij meer regie vanuit de rijksoverheid. Regie over de toepassing van taalmodellen, die de basis vormen voor generatieve AI, maar ook om interbestuurlijke samenwerking tot stand te brengen. Tot die tijd vinden decentrale overheden zelf het wiel uit. Nijmegen laat zien dat dat niet zo ingewikkeld hoeft te zijn.

Vier principes

In juni 2023 publiceerde Nijmegen de principes voor het gebruik van ChatGPT op het eigen intranet. Ze zijn ook te vinden op het overheidssamenwerkingsplatform Pleio.  

Principe 1: Deel nooit gevoelige informatie met ChatGPT

Principe 2: Wees zelf de expert

Principe 3: Dubbelcheck de antwoorden

Wie deze drie principes toepast, kan zonder problemen ChatGPT gebruiken, concludeert de gemeente, mits dat in alle openheid gebeurt. Vandaar de toevoeging van principe 4:  Wees er open over als je ChatGPT gebruikt. ‘Het zijn geen wereldschokkende inzichten, maar ze helpen om vanuit voorzichtigheid én nieuwsgierigheid met deze technologie om te gaan,’ zegt Niels Loeffen, strategisch adviseur informatiemanagement bij Nijmegen.

Urgent thema in onderwijs

De principes komen voort uit een kennissessie die de gemeente in juni organiseerde voor leidinggevenden, in samenwerking met de Hogeschool van Arnhem en Nijmegen (HAN). De onderwijsinstelling had al eigen principes voor studenten en medewerkers opgesteld. ‘In het onderwijs gold het gebruik van ChatGPT toen als een urgenter thema,’ vertelt Loeffen. Voorafgaand aan de sessie vertaalden de privacy officer, de communicatieadviseur en hijzelf de principes van de HAN naar de eigen organisatie.

Publieke waarden in het geding

Nijmegen kent een aantal gemeentelijke opgaven die extra aandacht of versnelling behoeven, waaronder de opgave digitale transformatie, waarvoor Loeffen verantwoordelijk is. ‘De aanleiding om de principes op te stellen, was dat we naar AI willen kijken vanuit andere waarden dan alleen efficiëntie. Ja, je kunt met ChatGPT sneller werken, maar welke andere waarden zijn in het geding?’ In 2018 stelde de gemeente al een manifest op, ‘Wij zijn Open en Weerbaar Nijmegen’, waarin onder meer zwart op wit staat dat Nijmegen geen algoritmes gebruikt die zelfstandig beslissingen nemen. 

De eerste van vele toepassingen

Over de invulling van de principes bestond snel overeenstemming. Kort werd overwogen om enkele ChatGPT-accounts in het leven te roepen om medewerkers in een veilige omgeving te laten oefenen, maar het team zag daarvan af omdat het voorzag dat de toepassing van OpenAI de eerste in een rij van vele zou zijn, en dat de technologie op den duur in allerlei applicaties zou worden verwerkt.

Wees eerlijk

‘We vinden het vooral belangrijk dat medewerkers leren met nieuwe technologie om te gaan,’ zegt Loeffen. ‘Maar we zijn voorzichtig met het gebruik naar buiten, zoals in beleidsstukken. Bewonersbrieven stellen we nooit op met ChatGPT. Medewerkers gebruiken generatieve AI om bijvoorbeeld te checken welke formule in Excel ze moeten gebruiken, of om inspiratie op te doen om een zin net wat toegankelijker op te schrijven. Daar kwam het vierde principe uit voort.’

Het betekent niet dat een ambtenaar een disclaimer moet zetten onder een memo of een managementsamenvatting die met behulp van ChatGPT is opgesteld. Loeffen: ‘Het gaat erom dat we er niet geheimzinnig over zijn. Het is een uitnodiging om het gesprek aan te gaan met collega’s over hoe je deze technologie wel en niet inzet.’ Volgens hem zijn de principes vergelijkbaar met de richtlijnen die sommige andere gemeenten opstellen, al zijn er ook die het gebruik van generatieve AI met een werkaccount helemaal afraden, zoals Groningen.

Afname in gebruik ChatGPT

Overigens ziet Loeffen eerder een af- dan een toename in het gebruik van generatieve AI onder zijn 1700 collega’s. ‘Mijn indruk is dat het hoogtepunt van de hype achter de rug is. Als je er echt iets aan wil hebben, moet je goed nadenken over je prompts en je verdiepen in het behalen van een goed resultaat. Dat is een investering die zich beperkt tot een groepje intrinsiek gemotiveerden.’

Op de piek van de Hype Cycle

Volgens consultancybedrijf Gartner bevond generatieve AI zich in augustus 2023 op ‘de piek van de opgeblazen verwachtingen’. Gartner’s Hype Cycle is een model dat de voorspelbare ontwikkeling van opkomende technologieën weergeeft. Dat loopt grofweg als volgt: een opkomende technologie geldt als trigger voor allerlei nieuwe innovaties, wat leidt tot een piek van opgeblazen verwachtingen, waarop een dal van teleurstellingen volgt, terwijl ondertussen de werkelijk relevante toepassingen gevonden.

Grote kans dat de aftocht in het dal der teleurstellingen is ingezet tegen de tijd dat de overheidsbrede visie op generatieve AI gereed is. Niet dat dat een reden is om ervan af te zien: uiteindelijk blijkt dan waar de werkelijke waarde van de technologie ligt en vindt deze een structurelere plek in de samenleving.