De brief, uitgegeven door het non-profit Future of Life Institute en ondertekend door meer dan 1.000 mensen waaronder Musk, Apple mede-oprichter Steve Wozniak en Stability AI CEO Emad Mostaque, riep op tot een pauze in de ontwikkeling van geavanceerde AI totdat gedeelde veiligheidsprotocollen voor dergelijke ontwerpen zijn ontwikkeld, geïmplementeerd en gecontroleerd door onafhankelijke deskundigen.
"Krachtige AI-systemen mogen pas worden ontwikkeld als we er zeker van zijn dat hun effecten positief zullen zijn en hun risico's beheersbaar", aldus de brief.
De brief beschreef ook de potentiële risico's voor de samenleving en de beschaving door mens-competitieve AI-systemen in de vorm van economische en politieke verstoringen, en riep ontwikkelaars op om samen te werken met beleidsmakers op het gebied van governance en regelgevende instanties.
De brief komt nadat de EU-politie Europol zich maandag aansloot bij het koor van ethische en juridische bezwaren tegen geavanceerde AI zoals ChatGPT en waarschuwde voor mogelijk misbruik van het systeem bij phishingpogingen, desinformatie en cybercriminaliteit.
ChatGPT van OpenAI, gesteund door Microsoft, heeft sinds de introductie vorig jaar concurrenten ertoe aangezet soortgelijke producten te lanceren en bedrijven ertoe aangezet deze of soortgelijke technologieën in hun apps en producten te integreren.
