Oproepen met AI-gegenereerde stemmen zijn illegaal, aldus de Federal Communications Commission op donderdag, nadat een nep-robotoproep die president Joe Biden imiteerde mensen probeerde te ontmoedigen om op hem te stemmen tijdens de Democratische voorverkiezingen in New Hampshire.

De declaratoire uitspraak geeft de procureurs-generaal van de staten nieuwe middelen om achter de entiteiten achter de robocalls aan te gaan, zei FCC-voorzitter Jessica Rosenworcel.

"Slechte actoren gebruiken AI-gegenereerde stemmen in ongevraagde oproepen om kwetsbare familieleden af te persen, beroemdheden te imiteren en kiezers verkeerd te informeren. We stellen de fraudeurs achter deze oproepen op de hoogte," zei Rosenworcel.

De FCC merkte op dat de procureurs-generaal van de staten zich voorheen konden richten op het resultaat van een ongewenste door AI gegenereerde robocall, maar de nieuwe actie maakt het gebruik van AI om een stem te genereren in deze robocalls zelf illegaal.

Eerder deze week zei de procureur-generaal van New Hampshire, John Formella, dat de nep-robocall van Biden

is getraceerd naar het in Texas gevestigde Life Corp

. Hij zei dat er een stakingsbrief is gestuurd naar het bedrijf, dat wordt geleid door Walter Monk, en dat er een strafrechtelijk onderzoek loopt.

"Het gebruik van generatieve AI vormt een nieuwe bedreiging voor de onderdrukking van kiezers en het campagneseizoen door de verhoogde geloofwaardigheid van valse oproepen," zei de Democratische FCC-commissaris Geoffrey Starks.

"Stem klonen," zei de FCC, "kan een gebelde partij ervan overtuigen dat een vertrouwd persoon, of iemand om wie ze geven zoals een familielid, wil of nodig heeft dat ze een bepaalde actie ondernemen die ze anders niet zouden doen."

De FCC in

2023 een boete van $5,1 miljoen opgelegd

opgelegd aan conservatieve activisten voor het plegen van meer dan 1100 illegale robocalls in de aanloop naar de Amerikaanse verkiezingen van 2020.

De oproepen probeerden potentiële kiezers te ontmoedigen om te gaan stemmen door hen te vertellen dat als ze per post zouden stemmen, hun "persoonlijke gegevens deel zouden uitmaken van een openbare database die door politieafdelingen gebruikt zal worden om oude arrestatiebevelen op te sporen en door creditcardmaatschappijen gebruikt zal worden om uitstaande schulden te innen".