Ambtenaren aan zet voor ethisch, verantwoord & succesvol gebruik AI

‘Zie de kansen van AI, maar kijk ook naar de risico’s om relevant te blijven!’ Dat is de boodschap van AethiQs. Het strategisch adviesbureau helpt organisaties aan meer awareness, en bouwt duurzame AI-systemen die ethisch verantwoord zijn. ‘We nemen de belangrijkste zorgen weg met onze AI-tools,’ zegt Mark Verschuren, partner bij AethiQs. Zijn collega en relevantieadviseur Shaiesta Gangadin benadrukt het belang van awareness en kennis. ‘Niet alleen vanwege de komende AI Act. Als je weet hoe AI werkt, kun je de goede vragen stellen en er veiliger en efficiënter mee werken.’  

AI-tool: MAAT

De oplossing van AethiQs heet MAAT. MAAT kan raadsleden, griffie en inwoners helpen de weg te vinden in het doolhof aan raadsinformatie. Bij tien gemeenten is de AI-zoekmachine inmiddels geïmplementeerd, vertelt Mark Verschuren. ‘Een raadsinformatiesysteem bevat tienduizenden documenten en een paar honderd vergaderingen. Onze AI-tool leest de inhoud uit en met een speech-to-text tool maken we letterlijke verslagen van vergaderingen. Hierdoor kun je direct zoeken in alle data, zowel tekst als audio en video, en niet alleen in de titel maar in het hele bestand. Met AI vind je zo ook synoniemen of andere verwoordingen terug. Dit noemen wij de eerste laag.’

De tweede laag van MAAT gebruikt generatieve AI om bijvoorbeeld samenvattingen te maken of vragen te beantwoorden over informatie uit de eerste laag. Daarmee kun je als raadslid onder meer dossiers opbouwen over onderwerpen met een overzichtelijke tijdlijn en eerdere besluitvorming.

Ethisch en verantwoord gebruik van AI

AethiQs zet ethische en verantwoorde AI centraal in de dienstverlening. ‘We kennen de vier grootste zorgen over AI,’ licht Mark toe. ‘Dat zijn privacy, beveiliging, betrouwbaarheid en ethiek. Het is boven alles van belang om de mens centraal te houden. Bij het bekende voorbeeld van OpenAI is de grootste zorg dat data gedeeld wordt met OpenAI zelf of met andere gebruikers. Dit wordt opgelost door het AI-systeem te laten draaien in een beveiligde omgeving van Microsoft, daarmee kan de informatie in je eigen cloudopslag blijven en wordt die niet verder gedeeld met derden.’ Betrouwbaarheid gaat over de feitelijke nauwkeurigheid van de antwoorden die worden gegeven, hoe kan je die controleren? ‘Ons systeem MAAT zorgt bij elk antwoord voor bronvermelding, met daarbij de exacte citaten uit de bron. Zo blijft de eindgebruiker centraal staan, die het antwoord kan factchecken, Bij het gebruik van eigen databronnen ligt de betrouwbaarheid daarnaast al veel hoger dan wanneer er gebruik wordt gemaakt van de grote openbare database van OpenAI.’ aldus Mark.

Voor ethische en verantwoorde inzet van AI is niet alleen de technische invulling belangrijk, even belangrijk is het kennisniveau en de awareness van de gebruiker, zegt collega Shaiesta Gangadin. ‘Kennis helpt je om de juiste vragen te stellen en AI efficiënter en veiliger te gebruiken. Met meer kennis kun je ook zorgen dat de inwoner die met MAAT te maken krijgt, een fijnere ervaring heeft.’

En awareness? ‘Het is belangrijk dat ambtenaren beseffen waarom het nodig is om compliant te zijn met bijvoorbeeld de AI-Act van Europa. In de sessies die wij aanbieden leer je wat de verplichtingen zijn en leer je de maatschappelijke relevantie daarvan goed te begrijpen.’

Shaiesta ziet bij gemeenten een enorme wil om te innoveren. ‘Dat is heel positief! Beperk jezelf hierbij niet tot wat AI nu al kan. Stel jezelf in plaats daarvan de vraag wat AI voor jou kan betekenen in de toekomst. Bekijk hoe je AI zo kan toepassen dat het helpt je doelstellingen te verwezenlijken. Zorg ervoor dat AI past bij jouw organisatie, in plaats van andersom.’