Microsoft-chef roept mensen op AI te besturen en kritieke infrastructuur te beschermen

Brad Smith, president van Microsoft, riep donderdag op om de mensen achter kunstmatige intelligentie verantwoordelijk te houden voor tekortkomingen en drong er bij wetgevers op aan om ervoor te zorgen dat er veiligheidsremmen worden gezet op AI die wordt gebruikt om het elektriciteitsnet, de watervoorziening en andere kritieke infrastructuur te controleren.

Wettenmakers in Washington worstelen al weken met de vraag welke wetten ze moeten aannemen om AI te controleren, zelfs nu grote en kleine bedrijven in een race verwikkeld zijn om steeds veelzijdigere AI op de markt te brengen.

In een blogpost op donderdag benadrukte Smith de noodzaak van verantwoording.

"Dit is de fundamentele noodzaak om ervoor te zorgen dat machines onderworpen blijven aan effectief toezicht door mensen en dat de mensen die machines ontwerpen en bedienen verantwoording verschuldigd blijven aan alle anderen. Kortom, we moeten er altijd voor zorgen dat AI onder menselijke controle blijft," schreef hij.

Als onderdeel van een vijf-punten blauwdruk voor publiek bestuur van AI, drong Smith erop aan om speciale aandacht te besteden aan het elektriciteitsnet, watersystemen en andere kritieke infrastructuur. "Nieuwe wetten zouden beheerders van deze systemen verplichten om veiligheidsremmen in te bouwen in AI-systemen met een hoog risico," schreef hij in de blog.

Hij drong aan op het gebruik van een "Ken uw klant"-achtig systeem voor ontwikkelaars van krachtige AI-modellen om bij te houden hoe hun technologie wordt gebruikt en om het publiek te informeren over welke inhoud AI creëert, zodat ze vervalste video's kunnen identificeren.

Vorige week vertelde Sam Altman, CEO van OpenAI, de startup achter ChatGPT, in zijn eerste optreden voor het Congres aan een Senaatspanel dat het gebruik van kunstmatige intelligentie om zich te bemoeien met de integriteit van verkiezingen een "belangrijk punt van zorg" is, en hij voegde eraan toe dat dit gereguleerd moet worden.

Altman, wiens OpenAI wordt gesteund door Microsoft, riep ook op tot wereldwijde samenwerking op het gebied van AI en stimulansen voor veiligheidsnaleving.

Sommige voorstellen die op Capitol Hill worden overwogen, richten zich op AI die het leven of de bestaansmiddelen van mensen in gevaar kan brengen, zoals in de geneeskunde en de financiële wereld. Anderen willen regels om ervoor te zorgen dat AI niet wordt gebruikt om te discrimineren of burgerrechten te schenden.

De bezorgdheid heeft geleid tot een golf van ontmoetingen, waaronder een bezoek deze maand aan het Witte Huis van de CEO's van OpenAI, Microsoft en Alphabet Inc. President Joe Biden had een ontmoeting met de CEO's.