EU-rapport: AI heeft publieke sector veel te bieden

De Europese Unie zou wereldleider kunnen worden op het gebied van AI voor de publieke sector, belooft een rapport dat is opgesteld in opdracht van de Europese Commissie. Daarvoor zijn er wel nog een groot aantal uitdagingen te overwinnen.

Aanbestedingen benutten

De Europese Commissie liet een onderzoek uitvoeren naar de mogelijkheden van kunstmatige intelligentie (AI) om de diensten van de publieke sector te verbeteren in de EU. De hoop is dat als de publieke sector AI vroeg omarmt, dat het dan meer grip heeft op de ontwikkeling van veilige, betrouwbare en duurzame AI. Het belangrijkste middel om dit te bereiken, is via aanbestedingen. Het lijkt erop dat dit middel door de lidstaten nog niet volledig wordt benut. Het rapport geeft de Europese Commissie aanbevelingen hoe overheidsopdracht voor AI-systemen kunnen worden ondersteund.

Uit het onderzoek blijkt dat AI de interactie tussen overheden en inwoners kan verbeteren, het analytisch vermogen van overheden kan vergroten en de efficiëntie kan verhogen in verschillende sectoren. De zorg, mobiliteit, eGovernance en onderwijs zijn volgens de onderzoekers het meest klaar om AI op grote schaal te implementeren.

Herontwerp dienstverlening

Voor de digitale overheid en publieke dienstverlening in het algemeen is er met AI grote efficiëntiewinst te behalen, schrijven de onderzoekers. Veel EU-lidstaten maken gebruiken van chatbots en virtuele assistenten, naast andere vormen van GovTech. Tot dusver concentreerde veel innovatie zich op het verbeteren van bestaan overheidspraktijken, maar de verwachting is dat de implementatie van AI ervoor kan zorgen voor een grondig herontwerp van ‘administratieve structuren’ waar iedereen baat bij heeft. Een voorwaarde is wel dat de publieke sector mensen met kennis van zaken en ervaring met de adoptie van AI aan het werk zet. Die moeten zorgen dat de risico’s, zoals gebrek aan vertrouwen en een gebrek aan begrip over hoe de technologie werkt en wat de effecten zijn, worden ondervangen.

Veiligheid centraal

Over mobiliteit schrijven ze dat AI voor meer efficiëntie en veiligheid kan zorgen met zelfrijdende voertuigen en slimme verkeerssystemen. Door een gebrek aan geharmoniseerde regels in Europa (het onderzoek werd gedaan voordat de AI Act in werking trad) en te veel focus op data en regulering alleen, vond de meeste innovatie en gebruik van AI plaats in de private sector, maar juist in mobiliteit zouden grote ontwikkelingen kunnen plaatsvinden, als de zorgen over veiligheid maar centraal blijven staan.

De belangrijkste uitdagingen verschillen nauwelijks per sector. Op het gebied van aanbestedingen gaat het om de omvangrijke administratieve eisen en het gebrek aan duidelijkheid vanuit de publieke sector over hun wensen en eisen. Ook ligt er te veel nadruk op de prijs en kostenbesparingen en te weinig op de kwaliteit van de dienstverlening en niet-financiële baten.  Op het gebied van data gaat het onder meer over datadelen, niet genoeg toegang tot grote hoeveelheden data van hoge kwaliteit, te weinig ontwikkelde datagovernance en gebrek aan duidelijkheid over data eigenaarschap.

Technologisch liggen er ook aanzienlijke uitdagingen: het gebrek aan transparantie over beslissingen die AI maakt en de moeilijke toegang tot AI-toepassingen (je weet niet van te voren wat je precies koopt), het risico op bias en discriminatie, en de moeilijkheid om te bepalen wie er verantwoordelijk is voor het AI-systeem, om er maar en paar te noemen. Organisatorisch hebben overheden te maken met personeelstekort, gebrek aan politieke steun, gebrek aan begrip van de mogelijkheden en voordelen van AI en systeemproblemen.

Vijftien aanbevelingen

Wat kan de Europese Commissie doen om te zorgen dat overheden AI-systemen gaan aanschaffen? De onderzoekers komen met vijftien aanbevelingen. Op nummer één staat ‘Verhoog de financiering en middelen voor AI in de publieke sector.’ Andere aanbevelingen zijn onder meer ‘Stimuleer de coördinatie van AI-aanbestedingsstrategieën’ en ‘Bevorder interoperabiliteit, open data en datadeling. Als de Europese Commissie zorgt voor een duidelijk wettelijk kader voor AI, met een focus op lange termijn implementatie en het ontwikkelen van betrouwbare AI-oplossingen waarbij mensen centraal staan, dan zou de EU weleens een wereldleider kunnen worden op het gebied van betrouwbare, duurzame AI-technologieën voor de publieke sector, belooft het rapport.