‘Kunstmatige Intelligentie biedt nauwelijks winst’

Rondom kunstmatige intelligentie (AI) vindt enorm veel hypevorming plaats, waarschuwt cultuursocioloog Siri Beerends. Dat wil niet zeggen dat we het kunnen afdoen als een hype. Integendeel: ‘Door de hype wordt het een alledaagse realiteit waar we mee moeten dealen.’

Cultuursocioloog Siri Beerends heeft het druk. Haar kritische blik op technologische ontwikkelingen vormt een welkom tegenwicht voor Alexander Klöpping en consorten. Sinds de komst van ChatGPT staat de telefoon helemaal niet meer stil. Voorgoed voorbij is de tijd dat ze zich een roepende in de woestijn voelde. Beerends werkt bij SETUP, een platform waar kunstenaars en experts samenwerken om de implicaties van technologische ontwikkelingen invoelbaar te maken.

Zo ontwikkelde SETUP klaagrobot ‘Paaltje’, waarmee burgers automatisch klachten kunnen indienen bij de gemeente, als antwoord op de toenemende automatisering bij de overheid. Recent maakte SETUP stockfoto’s die een realistischer beeld van technologie moeten geven: geen abstracte blauwe enen en nullen, maar een foto van een mens omringd door dozen met draden, om te verbeelden hoeveel ruimte de ‘cloud’ nu werkelijk inneemt.

Je zou kunnen zeggen dat SETUP het virtuele concreet maakt. En wat doet een cultuursocioloog precies?

‘Ik kijk met een cultuursociologische blik naar techniek. Onderwerpen als digitalisering, automatisering en kunstmatige intelligentie duid ik meer vanuit cultuur, bijvoorbeeld vanuit een steeds dominantere ‘computational culture’ van dataficeren, voorspellen en sturen. In de producten die techbedrijven ontwerpen en op de markt brengen, zit een impliciet mensbeeld ingebakken. Ik vind het belangrijk om te laten zien hoe dat ons denken en handelen met technologie bepaalt, en wie daarvan profiteren.’

Het heersende mensbeeld in Silicon Valley, de bakermat van de kunstmatige intelligentie, stamt nog uit de tijd van het behaviorisme, dat de mens beschouwt als een stimulus-response machine. Beerends: ‘Techbedrijven zien de mens als een optelsom van datapunten, die je kunt sturen en manipuleren. Daar komt ook het idee vandaan dat je in computers de mens kunt nabouwen of menselijke intelligentie kunt imiteren. Eigenlijk gaat het al mis bij de term “kunstmatige intelligentie”. Die roept verwachtingen en gevoelens op die niet aansluiten bij wat een computer kan. Intelligentie is veel meer dan een statistische patroonvertaling en kansberekening, maar dat is in feite alles wat AI doet.’

Hoe zou kunstmatige intelligentie beter kunnen heten?

‘Ik vind statistics on steroids mooi. AI is een krachtige vorm van statistiek. Dat is niet onschuldig of ongevaarlijk, al zijn die gevaren heel anders dan nu in het AI-debat vaak geschetst wordt.’ Beïnvloed door big tech gaat de discussie niet zozeer over wat kunstmatige intelligentie nu kan, maar vooral over de angst voor een kunstmatige superintelligentie die zich tegen de mensheid keert. De open brief waarin een groot aantal techprominenten pleit voor een pauze in de ontwikkeling van AI, omdat het allemaal wel erg snel zou gaan, heeft veel invloed op de toon van het debat. Zo kopte NRC Handelsblad recent: ‘ChatGPT verslaat arts bij het beantwoorden van medische vragen’.

Waarom is dit suggestieve verslaggeving?

‘De suggestie is dat kunstmatige intelligentie in de toekomst alles kan en dat we dan bijna alle beroepen kunnen automatiseren. Zulke claims over banenverlies zijn bijna altijd overtrokken. Met het idee dat AI er is om de mens te verslaan of te vervangen zitten we echt op het verkeerde pad. Het betere alternatief, waar men op hoopt en waar ook met de AI Act op wordt ingezet, is een goede samenwerking met AI. Maar ik denk dat we ook daar veel te rooskleurig naar kijken. Alsnog wordt AI erdoorheen geduwd, terwijl het in de praktijk helemaal niet kan voldoen aan de hoge beloften.’

Hulpje van AI

De belofte van AI is in de eerste plaats dat het mensen tijd bespaart. Doordat AI de repetitieve taken overneemt, zouden mensen zich met echt belangrijke dingen kunnen bezighouden, zoals de menselijke maat in de context van de overheid. Dat blijkt nogal eens tegen te vallen. Beerends: ‘In synthetische biologielabs bleek de tijdsbesparing voor wetenschappers niet op te gaan, omdat ze meer tijd kwijt waren aan het machine-leesbaar maken van informatie, die uiteindelijk weinig opleverde. Het ging ten koste van het ontwikkelen van nieuwe hypotheses, terwijl daar de echte innovatie zit.’

Techoptimisten zullen zeggen dat zo’n situatie tijdelijk is en dat AI de samenleving op de langere termijn wel degelijk veel oplevert. Is dat niet zo?

‘Die worst wordt ons al heel lang voorgehouden. In specifieke contexten kan het zo zijn, maar vaker is het niet het geval. Veel werk wordt onder invloed van AI juist repetitiever, omdat mensen het werk van machines moeten trainen, voeden of controleren. Bovendien zijn we als mensen geneigd om de vrijgekomen tijd te vullen met het volgende dat geautomatiseerd moet worden. Zo blijven we het eeuwige hulpje van AI. Veel mensen weten niet hoe veel onzichtbare menselijke arbeid schuilgaat achter het trainen van computersystemen. Het is naïef om te denken dat er een soort magisch punt in de toekomst is waarop de computer het allemaal zelf kan.’

Wereld van verschil

Met de term statistics on steroids in het achterhoofd is duidelijk dat er een wereld van verschil is tussen kunstmatige en menselijke intelligentie. Beerends zegt: ‘Op het moment dat er wordt gezegd dat AI de menselijke intelligentie heeft ingehaald, wordt de menselijke intelligentie indirect opnieuw gedefinieerd als datgene wat een computer kan. En waar is een computer goed in? Rekenkracht, patroonherkenning en het extrapoleren van bestaande patronen. Als je ons daaraan ondergeschikt maakt, ga je voorbij aan belangrijke aspecten van de mens.’

De Amerikaanse techvisionair Jaron Lanier, die ze graag aanhaalt, verwoordt het verschil als volgt: ‘Onszelf vergelijken met AI is zoiets als onszelf vergelijken met een auto. Het is zoiets als zeggen dat een auto sneller kan dan een menselijke hardloper. Natuurlijk kan een auto dat, en toch zeggen we niet dat een auto een betere hardloper is geworden dan de mens.’ Er zijn genoeg zaken waarin een computersysteem het onderspit delft, zoals bewustzijn, empathisch begrip, zintuiglijke waarneming, snel schakelen tussen contexten, relaties aangaan en boerenverstand. Waar kinderen al op jonge leeftijd moeiteloos een woord kunnen koppelen aan een concept dat ze al kennen, heeft een computer eerst eindeloos veel trainingsvoorbeelden nodig.

Dat vertaalt zich in een hoog energieverbruik. Uit onderzoek blijkt dat het trainen van een groot taalmodel evenveel CO2-uitstoot veroorzaakt als vijf auto’s gedurende hun hele levensduur. Daar komt bij dat we de werkelijke gevaren van AI saai vinden, schrijft Beerends in een essay in iBestuur. Niet robots die de mensheid uitroeien vormen een gevaar, maar een toename in sociale ongelijkheid, desinformatie en verwarring, een grote ecologisch impact en culturele homogenisering: dat wat mensen met AI maken, gaat steeds meer op elkaar lijken. ‘Dat zijn geen nieuwe problemen, krijg ik vaak te horen als ik deze bezwaren opsom. Dat klopt, maar dat maakt ze niet minder relevant.’

Hypevorming

Al met al genoeg redenen om al die miljarden die in kunstmatige intelligentie worden gestoken elders in te investeren, vindt ze. ‘Wat levert AI concreet op voor mens en samenleving? De winst is mager. Het is treurig dat er zo veel geld omgaat in een technologie die zich zo slecht heeft bewezen.’

Voel je je een roepende in de woestijn?

‘Nou nee. Mensen kijken kritisch naar de ontwikkelingen en er wordt ook steeds meer paal en perk aan gesteld. De AI Act verbiedt het voorspellen van criminaliteit met behulp van AI, wat een aantal jaar geleden nog als een interessante optie werd gezien. Er ontstaat dus wel meer bewustwording, maar ik zie ook veel hypevorming.’

Een hype kun je gerust links laten liggen. Geldt dat ook voor AI?

‘Absoluut niet. Overal om ons heen worden AI-toepassingen geïmplementeerd, van online daten tot het aannemen van personeel. Door de hype wordt het een alledaagse realiteit waar we mee moeten dealen.’ Voor haar promotieonderzoek bij de Universiteit Twente bekijkt Beerends hoe mens en samenleving veranderen onder invloed van AI. Op de werkvloer hebben veel mensen te maken met AI-systemen die hun werk aandrijven of controleren. Dat de mens meer naar de machine opschuift, beschouwt ze als een groot risico.

Voor een supermarktmedewerker die zelfscankassa’s moet controleren, wordt het werk er niet leuker op. Maar wat raad je ambtenaren aan?

Voor het eerst in het gesprek aarzelt ze. ‘Ik vind dit lastig, want ik kan me voorstellen dat ambtenaren doodgegooid worden met adviezen over wat ze al dan en niet moeten doen met technologie. Maak in ieder geval onderscheid tussen AI-marketing en concrete meerwaarde. De samenleving heeft behoefte aan de menselijke maat. Je zit als overheid niet op de goede weg als je je in de luren laat leggen door de AI-industrie, die voor elk probleem een AI-systeem blijft aansmeren. Als ambtenaar mag je best vaker vragen stellen. Moeten we dit überhaupt wel gebruiken? Wat levert het op?

Wie worden er beter van? Wees kritisch op de hoge beloftes van AI. Kijk naar wetenschappelijke onderzoeken naar de effectiviteit van AI-systemen in de specifieke context waar het wordt ingezet. Let op ethische principes zoals transparantie, privacy, autonomie, menselijk contact en uitlegbaarheid. En onderzoek vooral wat het systeem doet met de mens en de taakopvatting van de mens. Wordt die taakopvatting uitgehold en verschraald, zodat we makkelijker kunnen roepen dat een robot het ook wel kan doen? Dan ben je volgens mij verkeerd bezig.’

Siri Beerends is een van de sprekers op de Govtechday, 9 juni, TU Delft.