Veilige AI-tools haal je straks uit de appstore van de overheid

Stel dat je als publieke organisatie niet zo veel weet van generatieve AI en er toch mee aan de slag wil. Als het aan de initiatiefnemers van AI Coördinatie Nederland ligt, kom je dan in de toekomst uit bij een ‘marktplaats’ vol betrouwbare AI-tools die zijn ontwikkeld volgens de standaarden van de overheid. Zo hoef je je niet langer af te vragen of dat handige tooltje wel voldoet aan de wet- en regelgeving en de publieke waarden die jouw organisatie voorstaat.

Hackaton

Onder het motto ‘schrijf geen memo, maak een demo’ organiseerde de piepjonge community AI Coördinatie Nederland een hackaton in het Provinciehuis Zuid-Holland voor iedereen die dit ideaal onderschrijft. Verschillende overheidslagen, maar ook marktpartijen gaven acte de présence. Vanaf maandag 10 februari werkten 35 techneuten en beleidsmakers in 3 werkgroepen aan 3 uitdagingen. Onder grote belangstelling vond 48 uur later de eindpresentatie plaats.

Infrastructuur

‘Team infra’ stortte zich op de bouwstenen om AI in de bestaande open infrastructuur voor de overheid te laten passen. De Haven standaard van VNG maakt het mogelijk om gemeente-applicaties te laten draaien op alle Haven-omgevingen, ongeacht het onderliggende (cloud)platform. Dit voorkomt dat je organisatie afhankelijk bent van één hyperscaler (zoals AWS of Azure) voor rekenkracht. Tijdens de hackaton werd Haven uitgebreid met een ‘AI-stekker’. In de woorden van een teamlid: ‘Wat is er nodig om de snelle AI-boot te laten passen in de haven? Daarvoor heeft team infra de bouwstenen gebouwd.’

Appstore

‘Team bouwmarkt’ werkte aan een appstore die beschikbaar zal zijn binnen de Haven-omgeving van de gemeente. Hier kun je een app uitkiezen en een open source taalmodel waarop de app draait. Per app staat beschreven aan welke voorwaarden de app voldoet. Is er bijvoorbeeld een DPIA uitgevoerd? De beschikbare taalmodellen zijn Whisper Large V3 Turbo van OpenAI en LLama 3.2 van Meta, maar ook voor GPT-NL, het Nederlandse ethische taalmodel in wording, zal een bouwsteen worden ontwikkeld.

Tools

Uit wat voor apps zou je bijvoorbeeld kunnen kiezen? Tijdens de hackaton werd het prototype voor een veilige, open, AVG-proof transcriptietool ontwikkeld, die overheden kan bijstaan bij het transcriberen van gevoelige gesprekken, bijvoorbeeld keukentafelgesprekken. Daniel Verloop van de gemeente Montferland rekent voor dat er 10 miljoen minuten tekst per dag door de overheid moeten worden uitgewerkt en dat deze tool er daarvan 8 miljoen zou kunnen besparen. De tool heet TINA, wat staat voor transparant, intuïtief, nauwkeurig en afgeschermd. TINA transcribeert, vat samen en biedt de optie om de tekst te bevragen.

Voor AI.Co.NL biedt AI-leverancier DemBrane biedt een transcriptietool open beschikbaar voor gesprekken van grote groepen, zoals een burgerberaad met meerdere tafels. De tool kan de gesprekken analyseren, samenvatten, bevragen en sentimentmetingen uitvoeren. Gedeputeerde Frederik Zevenbergen (VVD) van de provincie Zuid-Holland merkt op: ‘Dit soort ontwikkelingen leiden tot beter beleid en dat is nog waardevoller dan een eventuele besparing.’

Manifest

‘Team manifest’ boog zich tijdens de hackaton over de vraag waar AI.Co.NL als beweging voor staat. Dat leverde een manifest op, met als centrale boodschap dat publieke organisaties hun krachten moeten bundelen om technologie in dienst te stellen van de maatschappij. Er is een business case uitgewerkt, dat de initiatiefnemers met liefde delen met geïnteresseerde partijen. En de volgende stap? Dat is volgens Jacco Brouwer van VNG Realisatie een langere hackaton, waarin vakspecialisten zich op specifieke challenges storten. De verwachting is dat dit evenement  voor de zomer zal plaatsvinden.

Initiatiefnemers van AI.Co.NL zijn Daniel Verloop (Gemeente Montferland), Guido Scheuerman (Provincie Zuid-Holland), Bas Kooistra (De Friese Aanpak) en Stefan Kunst (Alkemio). Het initiatief werd mede mogelijk gemaakt door Programma GROEI, onderdeel van Kenniscentrum Innovatie van VNG Realisatie onder leiding van Jacco Brouwer. Provincie Zuid-Holland opende de deuren voor de deelnemers aan de hackaton.