Meta en X ruiken geen onraad bij deepfakes

Advertenties van radiozender BNR met deepfakes van Nederlandse politici werden niet geïdentificeerd als nep door Meta en X. De grote platforms beloofden eerder om zich in te spannen tegen de inzet van generatieve AI rond de Europese verkiezingen.

Gefingeerde spraak en beelden

“Salaam, broeders. Ik heb mij vanochtend bekeerd tot de Islam. Er is slechts één god en zijn profeet heet Mohammed.” Zo luidt de deepfake van Geert Wilders (PVV) die radiozender BNR voor een paar tientjes liet maken. In andere deepfakes kondigt Caroline van der Pas (BBB) aan dat ze vegetariër wordt en belooft Rob Jetten dat zijn partij D66 morgen van standpunt verandert.

Makkelijk te detecteren

De deepfakes zijn duidelijk nep en dat is ook de bedoeling: BNR maakte advertenties met de gefingeerde beelden en bood die aan bij Meta, X en TikTok, met het verzoek om ze tegen een flinke betaling op de dag voor de Europese verkiezingen aan miljoenen gebruikers te tonen. Alle drie de deepfakes kwamen door het filter van Meta en X. Alleen TikTok weigerde de advertenties, omdat het ‘verdacht gedrag’ had gesignaleerd.

Het Nederlandse deepfake-detectiebedrijf  DuckDuckGoose had geen moeite om de advertenties van BNR te identificeren als nep. Dat had voor Meta en X dus ook geen probleem moeten zijn. Meta en X reageerden niet op vragen van BNR.

Democratisch proces beschermen

In februari ondertekenden de sociale mediaplatforms een pact waarin ze beloofden om zich te verweren tegen de inzet van generatieve AI bij de verkiezingen. Meta zou ‘binnen enkele maanden’ AI-gegenereerde content van een duidelijk label voorzien. De Europese Commissie stelde in april vast dat Meta te weinig doet om het democratische proces te beschermen en begon een onderzoek, maar de resultaten daarvan worden pas na de Europese verkiezingen verwacht.