De toezeggingen van zorgverleners en betalers volgen op die van 15 toonaangevende AI-bedrijven, waaronder Google, OpenAI en OpenAI-partner Microsoft, om AI-modellen op een verantwoorde manier te ontwikkelen.

De regering van Biden dringt erop aan om parameters rond AI vast te stellen nu AI snel aan kracht en populariteit wint, terwijl de regelgeving beperkt blijft.

"De regering haalt alles uit de kast om verantwoorde AI op gezondheidsgerelateerde gebieden te bevorderen," zei de functionaris van het Witte Huis, en voegde eraan toe dat AI een enorm potentieel heeft om patiënten, artsen en ziekenhuispersoneel ten goede te komen, mits het op een verantwoorde manier wordt beheerd.

Biden vaardigde op 30 oktober een uitvoerend bevel uit dat van ontwikkelaars van AI-systemen die risico's opleveren voor de nationale veiligheid, de economie, de volksgezondheid of de veiligheid van de VS eist dat ze de resultaten van veiligheidstests met de overheid delen voordat ze deze vrijgeven aan het publiek.

Aanbieders die de toezeggingen ondertekenen zijn onder andere Oscar, Curai, Devoted Health, Duke Health, Emory Healthcare en WellSpan Health, aldus de functionaris van het Witte Huis in een verklaring.

"We moeten waakzaam blijven om de belofte van AI voor het verbeteren van gezondheidsresultaten waar te maken," zei de ambtenaar. "Zonder de juiste tests, risicobeperkingen en menselijk toezicht kunnen AI-tools die gebruikt worden voor klinische beslissingen fouten maken die in het beste geval kostbaar zijn - en in het slechtste geval gevaarlijk."

Zonder het juiste toezicht kunnen diagnoses door AI worden beïnvloed door geslacht of ras, vooral wanneer AI niet is getraind op gegevens die representatief zijn voor de populatie die het behandelt, aldus de ambtenaar.

De principes achter het plan van de overheid roepen bedrijven op om gebruikers te informeren wanneer ze inhoud ontvangen die grotendeels door AI is gegenereerd en niet door mensen is beoordeeld of bewerkt, en om de schade die toepassingen kunnen veroorzaken te bewaken en aan te pakken.

Bedrijven die de toezeggingen ondertekenen, beloven om op verantwoorde wijze AI-toepassingen te ontwikkelen, waaronder oplossingen die de gelijkheid in gezondheid bevorderen, de toegang tot zorg uitbreiden, zorg betaalbaar maken, zorg coördineren om de resultaten te verbeteren, burn-out bij artsen verminderen en anderszins de ervaring van patiënten verbeteren.