Het laboratorium voor kunstmatige intelligentie OpenAI is een nieuw team aan het vormen om democratische processen te creëren om vorm te geven aan de manier waarop zijn AI-software bestuurd moet worden om vooroordelen en andere factoren aan te pakken, aldus het door Microsoft gesteunde bedrijf in een blogpost op dinsdag.

Het "Collective Alignment" team is een voortzetting van het werk van een subsidieprogramma voor het financieren van democratische procesexperimenten dat in mei 2023 werd aangekondigd, aldus het in San Francisco gevestigde bedrijf. Het programma liep onlangs af.

"Omdat we doorgaan met het nastreven van onze missie naar superintelligente modellen die mogelijk gezien kunnen worden als integrale onderdelen van onze samenleving ... is het belangrijk om mensen de kans te geven om direct input te leveren," vertelde Tyna Eloundou, een onderzoeksingenieur en oprichtend lid van OpenAI's nieuwe team, aan Reuters.

Om er bijvoorbeeld voor te zorgen dat alleen mensen kunnen stemmen, zou OpenAI kunnen samenwerken met Worldcoin, een cryptocurrency project opgericht door OpenAI CEO Sam Altman dat een manier biedt om het verschil te zien tussen mensen en AI-bots, zei Teddy Lee, een productmanager die het andere lid is van het team van twee personen.

Lee merkte op dat het team nog geen concrete plannen heeft gemaakt om Worldcoin te integreren.

Sinds OpenAI eind 2022 ChatGPT lanceerde, heeft generatieve AI-technologie die griezelig gezaghebbende proza uit tekstaanwijzingen kan toveren, het publiek geboeid, waardoor het programma een van de snelst groeiende apps aller tijden is geworden.

Er is echter bezorgdheid over het vermogen van AI om "deepfake" afbeeldingen en andere verkeerde informatie te creëren, vooral nu de Amerikaanse verkiezingscampagne van 2024 in volle gang is. Critici zeggen dat AI-systemen zoals ChatGPT een inherente vooringenomenheid hebben door de input die gebruikt wordt om hun standpunten vorm te geven, en gebruikers hebben voorbeelden gevonden van racistische of seksistische output van AI-software.

Het nieuwe OpenAI team is actief op zoek naar een onderzoeksingenieur en -wetenschapper, aldus Eloundou. Het team zal nauw samenwerken met OpenAI's "Human Data" team, dat infrastructuur bouwt voor het verzamelen van menselijke input op de AI-modellen van het bedrijf, en andere onderzoeksteams. (Verslaggeving door Anna Tong in San Francisco; Bewerking door Paul Simao)