Invloed AI-gegenereerde desinformatie op EU-verkiezingen minimaal

Desinformatie gemaakt met generatieve AI heeft geen noemenswaardige invloed gehad op de verkiezingen in de Europese Unie, het Verenigd Koninkrijk en Frankrijk in juni en juli 2024. Dat concludeert het Britse Alan Turing Institute. Wel leidt de opkomst van generatieve AI tot meer verwarring over de betrouwbaarheid van online informatie.

Geen noemenswaardig effect

Onderzoekers van het Centre for Emerging Technology and Services (CETaS), onderdeel van het Alan Turing Institute, hebben geen bewijs gevonden dat AI-gegenereerde desinformatie of deepfakes een noemenswaardig effect hebben gehad op de uitslag van de Britse, Franse of Europese verkiezingen.

De onderzoekers kwamen 16 bevestigde virale gevallen van AI-gegenereerde desinformatie of deepfakes tegen bij de Britse verkiezingen. Bij de EU- en de Franse verkiezingen samen kwamen ze niet verder dan 11 virale voorbeelden. Net als bij eerdere verkiezingen waren dit er veel minder dan vooraf werd gevreesd.

Dat deze gevallen geen bewezen effect hadden, komt omdat ze vooral terecht kwamen bij een kleine groep die er politieke denkbeelden op nahield die aansloten bij de content. Ze werden dus hooguit versterkt in hun denkbeelden. Het is volgens de onderzoekers minder waarschijnlijk dat deze desinformatie zwevende kiezers over de streep trok.

Pornografische deepfakes

Dit wil niet zeggen dat de AI-gegenereerde desinformatie geen kwaad aanrichtte. De onderzoekers zagen onder meer dat deepfakes online haat deden oplaaien tegenover politici, mogelijk met gevaar voor hun veiligheid. Verwarring over de vraag of AI-gegenereerde content echt was, leidde tot een beschadigd vertrouwen in online bronnen. En doordat politici AI gebruikten in campagne-uitingen zonder dit duidelijk aan te geven, legitimeerden ze onethisch gedrag. Vrouwelijke politici hadden bovendien veel last van pornografische deepfakes.

De onderzoekers zagen een aantal nieuwe trends opduiken. Zo waren er veel realistische deepfakes bedoeld als parodie of satire, die desondanks desinformatie verspreidden die door gebruikers voor waar werd aangenomen. Ook werd echt campagnemateriaal aangezien voor AI-gegeneerd, wat niet goed is voor het publieke vertrouwen in online informatie. Het leidt eens te meer tot de vraag hoe desinformatie kan worden aangepakt zonder dat de vrijheid van meningsuiting (zoals in het geval van de parodieën) in de verdrukking komt.

Van geen kwaad bewust

Het is tegenwoordig zo makkelijk om synthetische content te maken, dat veel makers van virale Britse verkiezingsdeepfakes zich van geen kwaad bewust waren. Zij waren niet bezig met het ondermijnen van het democratische proces, ze maakten gewoon een geintje. Opvallend: slechts één Britse verkiesbare politicus deelde AI-gegenereerd materiaal zonder dit aan te geven, tegenover veel meer Europese verkiezingskandidaten. In alle drie de verkiezingen waren er signalen dat Rusland invloed uitoefende op de verkiezingen, maar de impact was minimaal, aldus het rapport.

De makers en verspreiders van desinformatie met slechte bedoelingen hebben generatieve AI eigenlijk nauwelijks nodig om effect te bereiken. Ze vertrouwen op geijkte methoden, zoals de inzet van bots die eindeloos veel commentaar achterlaten op sociale media, of het gebruiken van influencers om onzin te verspreiden. GenAI gebruikten ze met name om nieuwsartikelen te herschrijven of om hun activiteiten op te schalen.

Democratisch proces ondersteunen

Behalve risico's zagen de onderzoekers ook mogelijkheden waarop AI het democratische proces juist kan ondersteunen. Ze noemen het versterken van klimaatcampagnes met AI-gegenereerde parodieën (met een duidelijk label waaruit blijkt dat het om AI-gegenereerde content gaat), experimenteren om politici en kiezers op nieuwe manieren met elkaar in contact te brengen en het snel factchecken van politieke claims met behulp van AI.

Het CETaS brengt dit jaar drie rapporten uit over desinformatie, AI en verkiezingen. In het eerste rapport, dat in mei verscheen, namen ze 19 verkiezingen onder de loep waarin AI-gegenereerde desinformatie een rol speelde. De conclusies kwamen grotendeels overeen met dit tweede rapport, dat gaat over de Britse, Franse en EU-verkiezingen. Het derde rapport verschijnt in november en richt zich geheel op de Amerikaanse verkiezingen.