"Het beperken van het risico van uitsterven door AI moet een wereldwijde prioriteit zijn naast andere risico's op maatschappelijke schaal, zoals pandemieën en kernoorlogen", schrijven meer dan 350 ondertekenaars in een brief die is gepubliceerd door het non-profit Center for AI Safety (CAIS).

Naast Altman waren dat de CEO's van de AI-bedrijven DeepMind en Anthropic en leidinggevenden van Microsoft en Google.

Onder hen waren ook Geoffrey Hinton en Yoshua Bengio - twee van de drie zogenaamde "godfathers of AI" die in 2018 de Turing Award ontvingen voor hun werk aan deep learning - en professoren van instellingen variërend van Harvard tot de Chinese Tsinghua University.

In een verklaring van CAIS werd Meta, waar de derde peetvader van AI, Yann LeCun, werkt, aangewezen voor het niet ondertekenen van de brief.

"We hebben veel medewerkers van Meta gevraagd te tekenen", aldus CAIS-directeur Dan Hendrycks. Meta reageerde niet onmiddellijk op verzoeken om commentaar.

De brief viel samen met de bijeenkomst van de U.S.-EU Trade and Technology Council in Zweden, waar politici naar verwachting zullen praten over het reguleren van AI.

Elon Musk en een groep AI-deskundigen en leidinggevenden uit de industrie waren de eersten die in april potentiële risico's voor de samenleving aanhaalden.

"We hebben Musk een uitnodiging gestuurd en hopelijk ondertekent hij die deze week", aldus Hendrycks.

Recente ontwikkelingen op het gebied van AI hebben instrumenten gecreëerd die volgens voorstanders kunnen worden gebruikt voor toepassingen variërend van medische diagnostiek tot het schrijven van juridische brieven, maar dit heeft de vrees doen ontstaan dat de technologie kan leiden tot schendingen van de privacy, verkeerde informatiecampagnes kan voeden en kan leiden tot problemen met "slimme machines" die voor zichzelf denken.

De waarschuwing komt twee maanden nadat het non-profit Future of Life Institute (FLI) een soortgelijke open brief publiceerde, ondertekend door Musk en honderden anderen, waarin een dringende pauze in geavanceerd AI-onderzoek werd geëist, vanwege de risico's voor de mensheid.

"Onze brief mainstreamde pauzeren, dit mainstreamt uitsterven," zei FLI-voorzitter Max Tegmark, die ook de recentere brief ondertekende. "Nu kan eindelijk een constructief open gesprek beginnen."

AI-pionier Hinton zei eerder tegen Reuters dat AI een "urgentere" bedreiging voor de mensheid zou kunnen vormen dan klimaatverandering.

Vorige week noemde OpenAI CEO Sam Altman EU AI - de eerste pogingen om een verordening voor AI op te stellen - overregulering en dreigde hij Europa te verlaten. Hij draaide zijn standpunt binnen enkele dagen terug na kritiek van politici.

Altman is het gezicht van AI geworden nadat zijn chatbot ChatGPT de wereld bestormde. Voorzitter van de Europese Commissie Ursula von der Leyen zal Altman donderdag ontmoeten en EU-industriechef Thierry Breton zal hem volgende maand in San Francisco ontmoeten.