Net als lange voedingsetiketten zullen Amazons zogenaamde AI-servicekaarten openbaar zijn, zodat zakelijke klanten de beperkingen van bepaalde clouddiensten kunnen zien, zoals gezichtsherkenning en audiotranscriptie. Het doel is om verkeerd gebruik van de technologie te voorkomen, uit te leggen hoe de systemen werken en de privacy te beheren, aldus Amazon.
Het bedrijf is niet de eerste die dergelijke waarschuwingen publiceert. International Business Machines Corp, een kleinere speler in de cloud, deed dit jaren geleden al. De nummer 3 in de cloud, Alphabet Inc's Google, heeft ook nog meer details gepubliceerd over de datasets die het heeft gebruikt om sommige van zijn AI te trainen.
Toch weerspiegelt de beslissing van Amazon om woensdag de eerste drie servicekaarten vrij te geven, de poging van de marktleider om zijn imago te veranderen nadat een publiekelijke ruzie met critici van burgerlijke vrijheden jaren geleden de indruk wekte dat het bedrijf minder gaf om AI-ethiek dan zijn collega's deden. De stap valt samen met de jaarlijkse cloudconferentie van het bedrijf in Las Vegas.
Michael Kearns, een professor aan de Universiteit van Pennsylvania en sinds 2020 een geleerde bij Amazon, zei dat de beslissing om de kaarten uit te geven volgde op privacy- en eerlijkheidsaudits van de software van het bedrijf. De kaarten zouden de zorgen over AI-ethiek publiekelijk aanpakken op een moment dat er regelgeving voor technologie in het verschiet lag, zei Kearns.
"Het belangrijkste aan deze lancering is de belofte om dit op een continue basis en een uitgebreide basis te doen," zei hij.
Amazon koos software over gevoelige demografische kwesties als start voor zijn servicekaarten, waarvan Kearns verwacht dat deze in de loop van de tijd gedetailleerder zullen worden.
HUIDTINTEN
Eén zo'n dienst heet "Rekognition." In 2019 betwistte Amazon een onderzoek waarin stond dat de technologie moeite had om het geslacht van personen met een donkere huidskleur te identificeren. Maar na de moord in 2020 op George Floyd, een ongewapende zwarte man, tijdens een arrestatie, stelde het bedrijf een moratorium in op het gebruik van zijn gezichtsherkenningssoftware door de politie.
Nu zegt Amazon in een servicekaart die Reuters heeft gezien dat Rekognition geen ondersteuning biedt voor het matchen van "beelden die te wazig en korrelig zijn om door een mens herkend te worden, of waarvan grote delen van het gezicht bedekt zijn door haar, handen en andere objecten". Er wordt ook gewaarschuwd tegen het matchen van gezichten in cartoons en andere "niet-menselijke entiteiten".
In een andere waarschuwing die Reuters heeft gezien, over audiotranscriptie, zegt Amazon: "Het inconsequent wijzigen van audio-inputs kan leiden tot oneerlijke resultaten voor verschillende demografische groepen." Kearns zei dat alleen al het nauwkeurig transcriberen van het brede scala aan regionale accenten en dialecten in Noord-Amerika een uitdaging was waaraan Amazon heeft gewerkt.
Jessica Newman, directeur van het AI Security Initiative aan de Universiteit van Californië in Berkeley, zei dat technologiebedrijven steeds vaker dergelijke openbaarmakingen publiceren als teken van verantwoorde AI-praktijken, hoewel ze nog een weg te gaan hebben.
"We zouden niet afhankelijk moeten zijn van de goede wil van bedrijven om basisgegevens te verstrekken over systemen die enorme invloed kunnen hebben op het leven van mensen," zei ze, en ze riep op tot meer industrienormen.
Techgiganten hebben geworsteld met het maken van zulke documenten die kort genoeg zijn zodat mensen ze willen lezen, maar die toch voldoende gedetailleerd en actueel zijn om frequente software-aanpassingen weer te geven, aldus iemand die bij twee grote bedrijven aan voedingswaarde-etiketten heeft gewerkt.
