AI-agents? Wees kritisch op het taalgebruik van techbedrijven

Grote techbedrijven zetten vol in op AI-agents. Dat zijn AI-systemen die taken voor ons opknappen, zoals het matchen van kandidaten aan een baan. Is deze technologie echt baanbrekend, of is het vooral slimme marketing? Laten we kritischer zijn op het taalgebruik van Silicon Valley, dat ons eerder wijsmaakte dat telefoons slim zijn, sociale media sociaal en de cloud gewichtloos.

Hoe slim is de cloud?

Een van de meest succesvolle frames uit Silicon Valley is het begrip ‘de cloud’. Wie documenten of informatie niet meer op zijn eigen computer opslaat, maakt gebruik van de cloud – een digitale wolk, wat gewichtloosheid impliceert. Maar de cloud is in feite een verzameling van datacenters: grote, vierkante gebouwen die veel stroom en drinkwater nodig hebben. Digitale technologie zorgt nu al voor meer uitstoot dan de luchtvaart (!) en de miljarden investeringen in datacenters zullen de digitale CO2-uitstoot alleen maar verergeren. We kennen het begrip vliegschaamte. Wanneer volgt AI-schaamte?

Een ander interessant begrip is ‘slimme technologie’. Daarover hoor je veel sinds generatieve kunstmatige intelligentie een hype is. Makers van deze technologie streven naar AGI (Artificial general intelligence), AI die even slim wordt als de mens. De vraag is hoe we bepalen of AGI bereikt is, aangezien er geen sluitende definitie van intelligentie is. Slimme technologie is overigens niet nieuw, denk maar eens aan de smart-phone, in het Nederlands beter vertaald als mobiele telefoon. De ‘smart city’ is een ander exponent van dit frame, waarbij lantarens bijvoorbeeld pas aangaan als er iemand in de buurt komt. Steden die niet gebruikmaken van deze technologie zijn volgens deze redenering per definitie ‘dom’. Een knap staaltje marketing.

Antropomorfisme

Na de gewichtloze cloud en slimme technologie hebben de makers van sociale media —die gebruikers asocialer maken— een nieuwe verrassing voor ons in petto: AI-agents. Het zijn AI-systemen die taken voor ons opknappen, zoals het matchen van kandidaten aan een baan, het in orde maken van de boekhouding of beantwoorden van klantvragen. Volgens onderzoek van Salesforce wil 93 procent van de CIO’s binnen twee jaar AI-agents inzetten. Die agents hebben vaak een profielfoto en een naam, waardoor het lijkt alsof het echte collega’s zijn. Het zou goed nieuws zijn voor werknemers, die hierdoor meer tijd overhouden voor interessanter, leuker of uitdagender werk.

Toch zijn er kanttekeningen te plaatsen bij deze innovatie. Ten eerste is de term ‘agents’ problematisch, omdat het een vorm van antropomorfisme is: menselijke eigenschappen worden toegedicht aan een niet-menselijk object. Wie een glas water verdrietig noemt, wordt (terecht) voor gek verklaard. AI-producenten gebruiken de term ‘agents’ zodat we hun tool als een collega zien. We vertrouwen een mens immers sneller dan een computer. Wie AI-agent als een collega ziet, neemt de output sneller klakkeloos over. Maar AI-agents maken nog veel fouten: de best presterende AI-agent voert 24 procent van de taken met succes zelfstandig uit. Dat levert tal van nieuwe risico’s op.

Automatisering in een glitterjas

Ten tweede is het de vraag of AI-agents echt zo baanbrekend zijn als wordt beweerd. Wie onder de motorkap van AI-agents kijkt, ziet dat deze technologie verschillende taken automatiseert en daarbij gebruikmaakt van large language models als ChatGPT. Daardoor begrijpen agents menselijke taal en kunnen ze meer taken automatiseren. De agents functioneren nog steeds binnen vastgestelde kaders en zijn in de praktijk vaak niet meer dan goed getrainde chatbots. AI-agents zijn geen autonome collega’s, maar simpelweg een volgende stap in de ontwikkeling van automatisering.

Ten derde zouden we door het ‘menselijk maken’ van automatisering paradoxaal genoeg bijna vergeten dat er duizenden mensen nodig zijn om de AI Agents mogelijk te maken en dat zij hun werk soms in erbarmelijke omstandigheden doen. AI-bedrijven als OpenAI, Google, Meta en Microsoft besteden het labelen van data uit aan outsourcingbedrijven in Kenia. Daar verdienen werknemers nog geen 2 dollar per uur, terwijl ze dankzij hun werk last krijgen van psychische klachten, zo onthulde Time. Soms zijn de werkers in de AI-industrie ook minderjarig, berichtte Wired, en werken ze in een soort van AI-sweatshops. Hun namen en profielfoto’s houden de AI-bedrijven liever achterwege.

Wees kritisch op termen als cloud, slimme technologie en AI-agents. Die laatste zijn geen revolutionaire digitale collega’s, maar automatiseringen in een glitterjas. Behandel ze dan ook zo.