TikTok heeft donderdag gezegd dat het een technologie gaat gebruiken om te helpen bij het labelen van afbeeldingen en video's die door kunstmatige intelligentie zijn gegenereerd en naar de videodeeldienst zijn geüpload.

TikTok zei dat het "Content Credentials" zou gaan gebruiken, een digitaal watermerk dat aangeeft hoe afbeeldingen zijn gemaakt en bewerkt. De Content Credential-technologie is ontwikkeld door Adobe, maar kan ook door andere bedrijven worden gebruikt en is al overgenomen door bedrijven zoals ChatGPT-bedenker OpenAI.

Onderzoekers hebben hun bezorgdheid geuit dat AI-gegenereerde inhoud gebruikt zou kunnen worden als desinformatie in een poging om de Amerikaanse verkiezingen dit najaar te verstoren. TikTok maakte al deel uit van een groep van 20 techbedrijven die eerder dit jaar een overeenkomst ondertekenden om dit tegen te gaan.

YouTube, dat eigendom is van Alphabet's Google, en Meta Platforms, dat Instagram en Facebook bezit, hebben ook gezegd dat ze van plan zijn om Content Credentials te gebruiken.

Om het systeem te laten werken, moeten zowel de maker van de generatieve AI-tool die wordt gebruikt om inhoud te maken, als het platform dat wordt gebruikt om de inhoud te distribueren, instemmen met het gebruik van de industriestandaard.

Als iemand bijvoorbeeld OpenAI's Dall-E tool gebruikt om een afbeelding te genereren, dan plaatst OpenAI een watermerk op de resulterende afbeelding. Als die gemarkeerde afbeelding vervolgens wordt geüpload naar TikTok, wordt deze automatisch gelabeld als AI-gegenereerd.

TikTok, dat eigendom is van het Chinese ByteDance, heeft 170 miljoen gebruikers in de Verenigde Staten, waar onlangs een wet is aangenomen die ByteDance verplicht om TikTok af te stoten of een verbod tegemoet te zien. TikTok en ByteDance hebben een rechtszaak aangespannen om de wet tegen te houden, met als argument dat de wet het Eerste Amendement schendt.

TikTok labelt al AI-gegenereerde inhoud die gemaakt is met tools in de app, maar de nieuwste stap zou een label toepassen op inhoud die buiten de service gegenereerd is.

"We hebben ook beleidsregels die realistische AI verbieden die niet gelabeld is, dus als realistische AI (gegenereerde inhoud) op het platform verschijnt, zullen we het verwijderen omdat het onze gemeenschapsrichtlijnen schendt," zei Adam Presser, hoofd operaties en vertrouwen en veiligheid bij TikTok, in een interview. (Verslag door Stephen Nellis in San Francisco; redactie door Diane Craft)