AI reducerar världen till stereotyper

I juli publicerade BuzzFeed en lista över 195 bilder av Barbie-dockor som tagits fram med hjälp av Midjourney, en populär artificiell intelligent bildgenerator. Varje docka var tänkt att representera ett annat land: Afghanistan Barbie, Albanien Barbie, Algeriet Barbie och så vidare. Flera av de Asiatiska Barbies var ljushyade, Thailand Barbie, Singapore Barbie och Filippinerna Barbie alla hade blont hår. Libanon Barbie står på grus, Tyskland Barbie hade militärkläder. Sydsudan Barbie bar på en pistol.
    Artikeln – som hade en varning om oavsiktligt slående exempel på fördomar och stereotyper som förökar sig i bilder som produceras av den senaste vågen av generativa AI-system, som Midjourney, Dall-E, Stabil och Diffusion.
    Bias förekommer i många algoritmer och AI-system – från sexistiska och rasistiska sökresultat för ansiktsigenkänning. Generativa AI-system är inte annorlunda. I en analys av mer än 5 000 AI-bilder fann man att bilder som kan förknippas med högre betalda jobb titlar utvalda personer med ljusare hudtoner, och att resultaten för de flesta professionella roller var mansdominerade.
    En ny Resten av Världen-analys visar att en generativ AI-system har tendenser till fördomar, stereotyper och reduktionism när det gäller nationell identitet.
    Rest of World: How AI reduces the world to stereotypes.

Bias är en oproportionerlig vikt för eller emot en idé eller sak, vanligtvis på ett sätt som är slutet, fördomsfullt eller orättvist. Fördomar kan vara medfödda eller inlärda. Människor kan utveckla fördomar för eller emot en individ, en grupp eller en tro.