Cursussen genAI stromen vol

Trainingen over generatieve AI zijn in trek bij overheidsmedewerkers. Belangrijk, zeggen experts, want zonder een goed begrip van de achterliggende technologie dreigen overspannen verwachtingen. Meer basiskennis en experimenteerruimte leiden tot een beter begrip van wat genAI (niet) kan.

Vol = vol

Het loopt storm bij de cursus ‘Veilig gebruik Generatieve AI’ voor de overheid. In februari kondigt de Rijksacademie voor Digitalisering en Informatiehuishouding Overheid (RADIO) aan dat er extra data voor de cursus zijn toegevoegd vanwege het succes van de vorige reeks. Ambtenaren wordt op de website gemaand om er snel bij te zijn, ‘want vol = vol.’ Inmiddels zit de cursus vol. Sinds de komst van ChatGPT, in november 2022, en zeker sinds de rijksoverheid in januari 2024 de overheidsbrede visie op generatieve AI presenteerde, nemen ambtenaren massaal het zekere voor het onzekere. Ze willen zeker weten wat ze met genAI kunnen en mogen.

GenAI demystificeren 

In de cursus wordt besproken wat generatieve AI is, welke recente ontwikkelingen er zijn en wat het beleid van de rijksoverheid inhoudt. Het is hard nodig dat alle ambtenaren in ieder geval de basis kennen, vindt Marcel Thaens, CIO bij de provincie Noord-Brabant. ‘Voor veel mensen is genAI toch een soort mirakel. Dat leidt tot het gevaar dat ze vervolgens worden teleurgesteld, of dat ze een antwoord niet op waarde weten te schatten.’ Je moet het demystificeren, zegt ook AI-specialist Kees van den Tempel. ‘Anders hebben mensen torenhoge verwachtingen.’

Beperkingen duidelijk maken

In de afgelopen vier maanden gaf Van Den Tempel met zijn bedrijf AI Labs zeventig trainingen over generatieve AI, grotendeels aan overheden. In zijn trainingen legt hij uit hoe de zogeheten large language models (LLM’s) werken die de basis vormen voor toepassingen als ChatGPT, Gemini en Midjourney. Hij vertelt de cursisten ook dat deze taalmodellen voornamelijk zijn gebaseerd op Amerikaanse en Westerse data, wat zorgt voor bevooroordeelde uitkomsten. Als de demystificatie is volbracht en de beperkingen van genAI voor iedereen duidelijk zijn, kunnen de cursisten gaan nadenken over de mogelijke meerwaarde van de technologie binnen hun organisatie. ‘Aan het einde van een training zien overheidsmedewerkers de mogelijkheden en willen ze aan de slag,’ zegt hij. 

Prompting meest populair

Ook het online leerplatform Studytube biedt een leertraject over AI aan dat populair is onder gemeenten. Eén onderdeel in het bijzonder doet het goed: prompting. In deze training leren cursisten om hun vraag aan een AI-toepassing zo te formuleren dat het antwoord het beste aansluit bij hun doel. Prompting staat inmiddels op nummer drie in de top tien van de meest gevolgde trainingen van Studytube. Een algemenere cursus over kunstmatige intelligentie staat op nummer zeven.

Verantwoord experimenteren

De roep om op de werkvloer met genAI te mogen experimenteren is groot, weet Marcel Thaens van Noord-Brabant. De provincie experimenteert met een chatbot die stikstofvragen van ambtenaren beantwoordt op basis van realtime data en kaarten van Brabantse Natura 2000-gebieden. ‘We bieden onze medewerkers allerlei cursussen aan, maar soms is het dóen waarvan je het meeste leert.’

Het belang van verantwoord experimenteren wordt in de overheidsbrede visie onderkend. Om innovatie te stimuleren heeft de EU regulatory sandboxes in het leven geroepen, ‘omheinde omgevingen’ waarbinnen overheden zonder al te veel beperkingen kunnen uitproberen wat voor hen werkt. De voornaamste boodschap die Kees van den Tempel zijn publiek voorhoudt, is dat experimenteren met genAI interessant en zelfs noodzakelijk is. ‘Je moet zelf in controle blijven, met een open mind. Niet vooraf de deur dichtslaan.’

Botsende waarden

Overigens kan een pilot met genAI ook prima tot de conclusie leiden dat genAI níet past bij de waarden die een overheidsorganisatie voorstaat. Dat is het geval in Amsterdam, waar de gemeente na een uitgebreid onderzoek naar taalmodellen vaststelt dat gesloten genAI-modellen veel beter werken dan open source modellen, maar dat de inzet van beide opties lastig is. ‘Open source taalmodellen presteren nog ondermaats, maar gesloten modellen zorgen vanwege hun grootschalig copyrightschendingen en enorm energieverbruik voor nieuwe dillema’s,’ zegt projectmanager Public Tech Douwe Schmidt. Het gebruik van deze modellen vormt een contrast met de waarden waar Amsterdam voor wil staan, zoals rechtvaardigheid en duurzaamheid. In nauwe samenspraak met inwoners wordt momenteel een visie op het gebruik van genAI door de stad ontwikkeld. Ook dit zijn noodzakelijke vaardigheden voor overheidsmedewerkers die met genAI werken: het kunnen wegen van publieke waarden en het betrekken van inwoners en experts bij hun afwegingen.

Lees het volledige artikel in Binnenlands Bestuur nr. 5.