Onmenselijke ambtenaren

Is de ambtenaar van de toekomst wel een mens? Of is hij cyborg, een wezen dat op allerlei manieren is versmolten met kunstmatige intelligentie en andere technologie? Deze vraag is niet hypothetisch. Zelflerende systemen die gespecialiseerde kennis praktisch toepassen worden snel beter en steeds vaker gebruikt. Een medisch specialist, zoals een radioloog, kan nu bij zijn diagnoses al nauwelijks zonder IBM’s Watson. 

Alle vakliteratuur, foto’s van vergelijkbare gevallen wereldwijd, gecombineerd met gegevens van de patiënt plus feedback van collega’s maken een dergelijk systeem professioneel onmisbaar. Ze vervangen mensen niet in al hun handelingen, maar ze zijn - op gespecialiseerde terreinen - wel domweg beter. Ze vergeten niets, kunnen veel meer variabelen combineren, zijn nooit moe, hebben geen ochtendhumeur en hoeven geen koffie. We associeren robotisering meestal met routinematig industrieel werk. Maar robotisering van professionele beroepen rukt snel op.

U denkt dat deze column door een mens, sterker nog, door een Algemeen Rijksarchivaris geschreven is. Maar weet u dat wel zeker? Journalistieke Artificial Intelligence (AI) applicaties produceren teksten die niet te onderscheiden zijn van doorsnee nieuwsberichten. AI componisten hebben cantates a la Bach gecomponeerd, die geschoolde luisteraars net zo ontroerend en verassend vinden als het werk van de meester zelf. Ook de AI ambtenaar laat vast niet lang op zich wachten. Deze komt niet op een dag uw gemeentehuis binnenrijden met knipperlichten op zijn hoofd, metalige stem en mechanische handen. 

De AI ambtenaar voegt zich geruisloos in uw werkprocessen en neemt die geleidelijk en gedeeltelijk over. Als archivaris heb ik daar vragen bij, maar dit is voor veel meer beroepsgroepen interessant. Juristen zullen geïnteresseerd zijn in aansprakelijkheid, handhavers in betrouwbaarheid en stedenbouwkundigen in creativiteit. Het gaat niet om goed of fout, om gewenst of ongewenst. Want het gebeurt. Het gaat er niet om of AI systemen ons gaan vervangen, maar het gaat erom hoe wij leren er goed mee samen te werken.  Als archivaris ben ik geïnteresseerd in verantwoording.

Burgers in Nederland hebben recht op een overheid die kan verantwoorden hoe zij tot besluiten is gekomen en hoe ze die heeft uitgevoerd. Een archief is een van de traditionele plekken waar burgers recht en bewijs kunnen zoeken. Dat recht wordt nog lang na dato uitgeoefend. Denk aan zaken als de kaping bij de Punt, gaswinning in Groningen, Srebrenica of aan minder controversiële kwesties als bijvoorbeeld de invoering van de Mammoetwet. Vragen kunnen opeens weer opduiken. Hoe ging dat eigenlijk, hoe zijn belangen afgewogen, welke standpunten zijn door wie ingenomen en waarom? Een archief moet onderzoekers in staat stellen antwoordden te vinden. Het probleem met zelflerende systemen is dat hun gespecialiseerde ‘hersens’ lijken op die van ons. Het zijn processen in neurale netwerken waarvan de stappen niet altijd te reconstrueren zijn.

Een overheid die meer gebruik gaat maken van ‘onmenselijke ambtenaren’, moet nu al nadenken hoe ze straks daarover rekenschap aflegt. Een paar weken geleden was een kleine delegatie van het Nationaal Archief op bezoek bij een aantal organisaties in Silicon Valley. Wij hebben deze vraag voorgelegd aan een paar van de techreuzen die in deze ontwikkelingen voorop lopen. Een antwoord dat bleef hangen was “The world is getting too complicated to explain.”  Voor mij, ik denk voor ons allemaal, is het de vraag of wij daarmee genoegen willen nemen.

Marens Engelhard, Algemeen Rijksarchivaris