Kort nadat ze in november vorig jaar een YouTube-kanaal had gelanceerd, ontdekte Loiek, een 21-jarige Oekraïense, dat haar foto was genomen en door kunstmatige intelligentie was gesponnen om alter ego's te creëren op Chinese sociale mediaplatforms.
Haar digitale dubbelgangers - zoals "Natasha" - beweerden Russische vrouwen te zijn die vloeiend Chinees spreken en die China wilden bedanken voor de steun aan Rusland en een beetje geld wilden verdienen met de verkoop van producten zoals Russische snoepjes.
Bovendien hadden de nepaccounts honderdduizenden volgers in China, veel meer dan Loiek zelf.
"Dit is letterlijk mijn gezicht dat Mandarijn spreekt en op de achtergrond zie ik het Kremlin en Moskou en ik praat over hoe geweldig Rusland en China zijn," vertelde Loiek aan Reuters. "Dat was echt griezelig, want dit zijn dingen die ik nooit in mijn leven zou zeggen."
Het geval van Loiek is representatief voor een toenemend aantal op het eerste gezicht Russische vrouwen op Chinese sociale media die in vloeiend Chinees hun liefde voor China tonen en zeggen dat ze Rusland in oorlog willen steunen door import uit hun thuisland te verkopen.
Geen van hen bestaat echter. Ze worden door AI gegenereerd door clips van echte vrouwen die online zijn gevonden, vaak zonder hun medeweten, verkeerd toe te eigenen en de video's die de nepavatars maken, worden gebruikt om producten aan alleenstaande Chinese mannen te verkopen, zeggen experts.
De accounts die zijn aangemaakt met Loieks afbeelding hebben honderdduizenden volgers en hebben voor tienduizenden dollars aan producten verkocht, waaronder snoepjes. Sommige berichten bevatten een disclaimer waarin staat dat ze met behulp van AI gemaakt kunnen zijn.
Avatars zoals die van Loiek maken gebruik van het "no limits" partnerschap tussen Rusland en China, dat in 2022 werd afgekondigd tussen de twee landen, toen de Russische president Vladimir Poetin een bezoek bracht aan Peking, slechts enkele dagen voordat Rusland Oekraïne binnenviel.
Jim Chai, de directeur van XMOV, een bedrijf dat geavanceerde AI-technologie ontwikkelt en niet betrokken is bij de situatie van Loiek, zegt dat de technologie om zulke afbeeldingen te maken "heel gewoon is omdat veel mensen het in China gebruiken."
"Om bijvoorbeeld mijn eigen 2D digitale mens te maken, hoef ik alleen maar een video van 30 minuten van mezelf op te nemen, en daarna bewerk ik de video opnieuw. Natuurlijk ziet het er heel echt uit, en als je de taal verandert, hoef je alleen de lipsynchronisatie aan te passen," zei Chai.
Kunstmatige intelligentie is een veelbesproken onderwerp en het verhaal van Loiek werpt een licht op de risico's van mogelijk illegale of onethische toepassingen nu krachtige hulpmiddelen voor het creëren en verspreiden van inhoud overal ter wereld gemeengoed worden.
De bezorgdheid over AI die bijdraagt aan desinformatie, nepnieuws en auteursrechtelijk beschermd materiaal is de afgelopen maanden toegenomen door de groeiende populariteit van generatieve AI-systemen zoals Chat GPT.
In januari publiceerde China ontwerprichtlijnen voor het standaardiseren van de AI-industrie, met het voorstel om tegen 2026 meer dan 50 nationale en industriewijde standaarden te vormen.
De AI-wet van de Europese Unie, die strenge transparantieverplichtingen oplegt aan AI-systemen met een hoog risico, is deze maand van kracht geworden en vormt een potentiële wereldwijde benchmark.
Xin Dai, universitair hoofddocent aan de Peking University Law School, zei echter dat de regelgeving het tempo van de AI-ontwikkeling moet bijhouden.
"We kunnen alleen maar voorspellen dat steeds krachtigere hulpmiddelen voor het creëren van informatie, het creëren van inhoud en het verspreiden van inhoud in principe elke volgende minuut beschikbaar zullen worden," zei Dai.
"Ik denk dat het kritieke punt hier is dat het volume gewoon te groot is ... niet alleen in China, maar ook in het algemene internet overal," voegde hij eraan toe. (Bewerking door Antoni Slodkowski en Kevin Krolicki en Miral Fahmy)
