Onderzoek: deepfakes kunnen samenleving ontwrichten

‘Deepfakes’ kunnen op meerdere manieren een zeer grote impact hebben op de samenleving: ze kunnen verkiezingen beïnvloeden, gebruikt worden voor nep-porno en zorgen voor nepnieuws. Tilburg University onderzocht deze techniek, waarmee met behulp van machine learning en kunstmatige intelligentie bijvoorbeeld zeer realistische nepvideo’s worden gemaakt, en concludeert dat het op termijn de samenleving kan ontwrichten.

Moeizame detectie

Met deepfakes kunnen geheel nieuwe, virtuele personen worden gecreëerd. Iedereen kan gratis en gemakkelijk toegang ertoe krijgen. ‘De verwachting van experts is dan ook dat over 5 jaar meer dan 90 procent van alle online content geheel of gedeeltelijk gemanipuleerd zal zijn’, schrijven de onderzoekers. Bestrijding is niet makkelijk: ‘Deepfake-detectietechnologieën zijn beperkt in capaciteit en kunnen slechts een deel van het fakemateriaal automatisch wegfilteren.’

Veel moeite

Er zijn belangrijke aandachtsgebieden. Bij 95 procent van alle deepfakes gaat het om nep-porno waarbij een vrouw seksuele handelingen lijkt te verrichten die zij niet daadwerkelijk heeft verricht. Verder kunnen verkiezingen worden beïnvloed en media in de problemen brengen (die moeten kiezen tussen snel publiceren en met veel moeite bepalen of iets echt is). Politie, justitie en rechter zullen moeten voorkomen dat nepmateriaal in de rechtbank belandt. Er moet een breed maatschappelijk debat komen, stellen de onderzoekers, en meer bewustwording en regelgeving kunnen worden overwogen.

Bezit verbieden

Er zijn veel regels over deepfakes, maar de handhaving blijft achter. De onderzoekers noemen, om de handhavingsdruk te verlichten, als mogelijke maatregel het verbieden van het produceren, aanbieden, gebruiken en bezitten van de technologie. Het huidige recht verbiedt namelijk  alleen het gebruik voor specifieke doeleinden. ‘Het kwaad is dan al geschied.’