Amazon probeert grote zakelijke klanten naar zijn AWS cloud computing service te lokken door aan te bieden hen te beschermen tegen juridische en reputatieschade die kan voortkomen uit de output van kunstmatige intelligentie.

Adam Selipsky, CEO van AWS, kondigde tijdens Amazons jaarlijkse conferentie over cloud computing in Las Vegas een nieuwe beveiliging aan tegen aanstootgevende inhoud op generatieve AI-toepassingen, genaamd Guardrails for Bedrock. Met de dienst kunnen gebruikers schadelijke inhoud uitfilteren, zei hij.

Omdat generatieve AI wordt getraind op algemeen beschikbare inhoud, kunnen beledigende woorden of andere aanstootgevende inhoud door gebruikersvragen in de resultaten terechtkomen. Dat is vooral problematisch voor jongere gebruikers, in tijden van wereldwijde conflicten of tijdens verkiezingen, wanneer generatieve AI's output in zoekresultaten de opinie kan beïnvloeden.

Voorstanders van veiligheid hebben gewaarschuwd dat generatieve AI buiten de controle van de menselijke makers zou kunnen werken en steeds gevaarlijkere inhoud zou kunnen produceren of hele systemen zou kunnen bedienen zonder toezicht. Ze maken zich met name zorgen over het feit dat de software invloedrijke - en overtuigende - inhoud op sociale mediasites zoals X en Facebook zet.

Selipsky zei dat de nieuwe service belangrijk was voor klanten om grenzen te stellen aan de generatieve AI die zij gebruiken.

Een bank zou bijvoorbeeld een online assistent kunnen configureren om geen beleggingsadvies te geven, aldus Selipsky. Of, om ongepaste inhoud te voorkomen, zou een e-commercesite ervoor kunnen zorgen dat zijn online assistent geen haatdragende taal of beledigingen gebruikt.

Tijdens de conferentie kondigde Amazon ook aan dat het zijn klanten zou vrijwaren van rechtszaken gebaseerd op misbruik van auteursrechtelijk beschermd materiaal. Zo klaagde het stockfotografiebedrijf Getty Images eerder dit jaar Stability AI aan omdat het zonder toestemming afbeeldingen van zijn website zou hebben geschraapt.

Guardrails voor Bedrock is vandaag in beperkte preview, aldus Amazon. Het bedrijf uit Seattle gaf geen aanvullende details over zijn vrijwaringsbeleid. (Verslaggeving door Greg Bensinger Bewerking door Marguerita Choy)