Het Amerikaanse cyberbeveiligingsbedrijf Mandiant, dat eigendom is van Google, zei op donderdag dat het de afgelopen jaren een toenemend gebruik van kunstmatige intelligentie (AI) had gezien om online manipulatieve informatiecampagnes uit te voeren, hoewel het gebruik van de technologie bij andere digitale inbraken tot nu toe beperkt was gebleven.

Onderzoekers van het in Virginia gevestigde bedrijf vonden sinds 2019 "talrijke gevallen" waarin door AI gegenereerde inhoud, zoals verzonnen profielfoto's, was gebruikt in politiek gemotiveerde online beïnvloedingscampagnes.

Dit waren onder andere campagnes van groepen die op één lijn zaten met de regeringen van Rusland, China, Iran, Ethiopië, Indonesië, Cuba, Argentinië, Mexico, Ecuador en El Salvador, aldus het rapport.

Het komt te midden van een recente hausse in generatieve AI-modellen zoals ChatGPT, die het veel gemakkelijker maken om overtuigende nepvideo's, afbeeldingen, tekst en computercode te maken. Beveiligingsfunctionarissen hebben gewaarschuwd dat dergelijke modellen door cybercriminelen worden gebruikt.

Generatieve AI zou groepen met beperkte middelen in staat stellen om op grote schaal inhoud van hogere kwaliteit te produceren, aldus onderzoekers van Mandiant.

Een aan de Chinese staat gelinkte informatiecampagne met de naam Dragonbridge bijvoorbeeld, heeft zich "exponentieel" verspreid over 30 sociale platforms en 10 verschillende talen sinds het begon met het als doelwit kiezen van pro-democratische demonstranten in Hongkong in 2019, zei Sandra Joyce, vicepresident bij Mandiant Intelligence.

Toch was de impact van dergelijke campagnes beperkt. "Vanuit het oogpunt van effectiviteit is er niet veel gewonnen," zei ze. "Ze hebben de koers van het bedreigingslandschap nog niet echt veranderd."

China heeft Amerikaanse beschuldigingen van betrokkenheid bij dergelijke beïnvloedingscampagnes in het verleden ontkend.

Mandiant, dat publieke en private organisaties helpt te reageren op digitale inbreuken, zei dat het AI nog geen belangrijke rol had zien spelen bij bedreigingen vanuit Rusland, Iran, China of Noord-Korea.

"Tot nu toe hebben we nog geen enkele incidentrespons gezien waarbij AI een rol speelde," zei Joyce. "Ze zijn nog niet echt ingezet voor praktische doeleinden die zwaarder wegen dan wat er gedaan kan worden met normale tools die we gezien hebben."

Maar ze voegde eraan toe: "We kunnen er heel zeker van zijn dat dit een probleem wordt dat in de loop van de tijd groter wordt." (Verslaggeving door Zeba Siddiqui in San Francisco; Bewerking door Alexandra Hudson)