Joe Biden laat eindelijk zijn masker vallen en laat een wrede tirade los tegen een transseksueel. "Je zult nooit een echte vrouw zijn", snauwt de president.

Welkom in de Amerikaanse presidentsrace van 2024, waar de realiteit voor het grijpen ligt.

De deepfakes van Clinton en Biden - realistische maar verzonnen video's, gemaakt door AI-algoritmen die zijn getraind op een overvloed aan online beelden - behoren tot de duizenden die opduiken op sociale media, waardoor feit en fictie vervagen in de gepolariseerde wereld van de Amerikaanse politiek.

Dergelijke synthetische media bestaan al enkele jaren, maar hebben het afgelopen jaar een hoge vlucht genomen door een groot aantal nieuwe "generatieve AI"-programma's zoals Midjourney, die het goedkoop en gemakkelijk maken om overtuigende deepfakes te maken, volgens interviews van Reuters met ongeveer twee dozijn specialisten op het gebied van onder meer AI, online desinformatie en politiek activisme.

"Het wordt heel moeilijk voor kiezers om het echte van het valse te onderscheiden. En je kunt je voorstellen hoe Trump-aanhangers of Biden-aanhangers deze technologie kunnen gebruiken om de tegenstander in een kwaad daglicht te stellen", aldus Darrell West, senior fellow bij het Center for Technology Innovation van het Brookings Institution.

"Er zouden dingen kunnen vallen vlak voor de verkiezingen die niemand een kans heeft om neer te halen."

Tools die deepfakes kunnen genereren, worden vrijgegeven met weinig of gebrekkige beschermingsmaatregelen om schadelijke desinformatie te voorkomen, nu de technologiesector zich in een AI-wapenwedloop stort, aldus Aza Raskin, medeoprichter van het Center for Human Technology, een non-profit die de impact van technologie op de samenleving bestudeert.

Voormalig president Donald Trump, die samen met DeSantis en anderen zal strijden om de Republikeinse nominatie om het op te nemen tegen Biden, deelde eerder deze maand zelf een bewerkte video van CNN presentator Anderson Cooper op zijn social media platform Truth Social.

"Dat was president Donald J. Trump die ons hier op CNN's live presidentiële townhall een nieuw gat in de reet gaf", zegt Cooper in de beelden, hoewel de woorden niet overeenkomen met zijn lipbeweging.

CNN zei dat de video een deepfake was. Een vertegenwoordiger van Trump reageerde niet op een verzoek om commentaar op de clip, die deze week nog op de Twitter-pagina van zijn zoon Donald Jr stond.

Hoewel grote sociale media platforms zoals Facebook, Twitter en YouTube inspanningen hebben geleverd om deepfakes te verbieden en te verwijderen, varieert hun effectiviteit bij het controleren van dergelijke inhoud.

DEEPFAKE PENCE, NIET TRUMP

Volgens DeepMedia, een bedrijf dat werkt aan hulpmiddelen om synthetische media op te sporen, zijn er dit jaar drie keer zoveel deepfakes van alle soorten video's en acht keer zoveel deepfakes van stemmen online geplaatst in vergelijking met dezelfde periode in 2022.

In totaal zullen in 2023 wereldwijd ongeveer 500.000 deepfakes van video's en stemmen worden gedeeld op sociale mediasites, schat DeepMedia. Het klonen van een stem kostte tot eind vorig jaar 10.000 dollar aan server- en AI-trainingskosten, maar nu bieden startups het aan voor een paar dollar, aldus het bedrijf.

Volgens de geïnterviewden weet niemand zeker waar de weg van generatieve AI naartoe leidt of hoe men zich effectief kan wapenen tegen de kracht ervan voor massale desinformatie.

Marktleider OpenAI, die het spel de afgelopen maanden heeft veranderd met de introductie van ChatGPT en het bijgewerkte model GPT-4, worstelt zelf met de kwestie. CEO Sam Altman vertelde het Congres deze maand dat verkiezingsintegriteit een "belangrijk punt van zorg" was en drong aan op snelle regulering van de sector.

In tegenstelling tot sommige kleinere startups heeft OpenAI stappen ondernomen om het gebruik van zijn producten in de politiek te beperken, volgens een analyse van Reuters van de gebruiksvoorwaarden van een half dozijn toonaangevende bedrijven die generatieve-AI-diensten aanbieden.

De beschermingsmaatregelen vertonen echter hiaten.

OpenAI zegt bijvoorbeeld dat het zijn beeldgenerator DALL-E verbiedt om publieke figuren te creëren - en toen Reuters probeerde beelden van Trump en Biden te creëren, werd het verzoek geblokkeerd en verscheen er een bericht dat het "mogelijk niet in overeenstemming is met ons inhoudsbeleid".

Toch kon Reuters beelden maken van minstens een dozijn andere Amerikaanse politici, waaronder voormalig vicepresident Mike Pence, die ook overweegt zich kandidaat te stellen voor het Witte Huis in 2024.

OpenAI beperkt ook elk "geschaald" gebruik van zijn producten voor politieke doeleinden. Dat verbiedt bijvoorbeeld het gebruik van zijn AI om massaal gepersonaliseerde e-mails naar kiezers te sturen.

Het bedrijf, dat wordt gesteund door Microsoft, legde zijn politieke beleid in een interview aan Reuters uit, maar reageerde niet op verdere verzoeken om commentaar over hiaten in de handhaving van zijn beleid, zoals het blokkeren van het maken van afbeeldingen van politici.

Verschillende kleinere startups hebben geen expliciete beperkingen op politieke inhoud.

Midjourney, dat vorig jaar werd gelanceerd, is de belangrijkste speler in AI-gegenereerde afbeeldingen, met 16 miljoen gebruikers op zijn officiële Discord-server. De app, die varieert van gratis tot $ 60 per maand, afhankelijk van factoren zoals hoeveelheid afbeeldingen en snelheid, is een favoriet van AI-ontwerpers en kunstenaars vanwege zijn vermogen om hyperrealistische afbeeldingen van beroemdheden en politici te genereren, volgens vier geïnterviewde AI-onderzoekers en -makers.

Midjourney reageerde niet op een verzoek om commentaar voor dit artikel. Tijdens een online chat op Discord vorige week zei CEO David Holz dat het bedrijf in de aanloop naar de verkiezingen waarschijnlijk wijzigingen zou aanbrengen om desinformatie tegen te gaan.

Midjourney wil samenwerken aan een industriële oplossing om traceerbaarheid van AI-gegenereerde beelden mogelijk te maken met een digitaal equivalent van watermerken en zou overwegen om beelden van politieke kandidaten te blokkeren, voegde Holz eraan toe.

REPUBLIKEINSE AI-GEGENEREERDE ADVERTENTIE

Terwijl de sector worstelt met de vraag hoe misbruik kan worden voorkomen, proberen sommige politieke spelers zelf de kracht van AI te gebruiken om campagnes op te voeren.

Tot nu toe is de enige spraakmakende door AI gegenereerde politieke advertentie in de VS die van het Republican National Committee van eind april. In de advertentie van 30 seconden, waarvan de RNC bekendmaakte dat deze volledig door AI was gegenereerd, werd aan de hand van valse beelden een rampscenario gesuggereerd voor het geval Biden zou worden herkozen, waarbij China Taiwan zou binnenvallen en San Francisco door de misdaad zou worden platgelegd.

Het RNC reageerde niet op verzoeken om commentaar op de advertentie of het bredere gebruik van AI. Het Democratisch Nationaal Comité weigerde commentaar te geven op het gebruik van de technologie.

Reuters vroeg alle Republikeinse presidentiële campagnes naar hun gebruik van AI. De meeste reageerden niet, hoewel het team van Nikki Haley zei de technologie niet te gebruiken en de campagne van longshot-kandidaat Perry Johnson zei AI te gebruiken voor het "genereren en herhalen van kopij", zonder verdere details te geven.

Het potentieel van generatieve AI voor het produceren van campagne e-mails, berichten en advertenties is onweerstaanbaar voor sommige activisten die denken dat de goedkope technologie het speelveld bij verkiezingen zou kunnen nivelleren.

Zelfs op het platteland van Hillsdale, Michigan, is machine-intelligentie in opmars.

Jon Smith, Republikeins voorzitter voor het 5e Congresdistrict van Michigan, houdt verschillende voorlichtingsbijeenkomsten zodat zijn bondgenoten kunnen leren AI te gebruiken voor sociale media en het maken van advertenties.

"AI helpt ons tegen de grote katten te spelen", zei hij. "Ik zie de grootste opleving in de lokale races. Iemand die 65 jaar oud is, een boer en provinciecommissaris, kan gemakkelijk worden voorgetrokken door een jongere kat met behulp van de technologie."

Politieke adviesbureaus proberen ook gebruik te maken van AI, waardoor de grens tussen echt en onecht nog vager wordt.

Numinar Analytics, een politiek databedrijf dat zich richt op Republikeinse klanten, is begonnen te experimenteren met het genereren van AI-inhoud voor audio en afbeeldingen, evenals het genereren van spraak om mogelijk gepersonaliseerde berichten te creëren met de stem van een kandidaat, aldus oprichter Will Long in een interview.

De Democratische peiling- en strategiegroep Honan Strategy Group probeert ondertussen een AI-enquêtebot te ontwikkelen. Het bedrijf hoopt op tijd een vrouwelijke bot te ontwikkelen voor de gemeenteraadsverkiezingen van 2023, aldus CEO Bradley Honan, die zich beroept op onderzoek waaruit blijkt dat zowel mannen als vrouwen eerder geneigd zijn om met een vrouwelijke interviewer te praten.