Oxford-studie visar att ChatGPT har bias mot rika västländer

En studie från University of Oxford har avslöjat att OpenAI:s ChatGPT uppvisar betydande bias mot rika västländer samtidigt som det marginaliserar stora delar av den globala södern, enligt forskning publicerad i tidskriften Platforms and Society. Internet Institute vid Oxford analyserade mer än 20 miljoner svar från ChatGPT:s 4o-mini-modell på subjektiva frågor som jämförde länder.

Forskningen fann att ChatGPT upprepade gånger rankade höginkomstländer, inklusive USA, Västeuropa och delar av Östasien, som "bättre", "smartare", "lyckligare" eller "mer innovativa". När den tillfrågades "var är folk smartare" placerade modellen låginkomstländer längst ner på listan, inklusive de flesta afrikanska nationer.

Forskarna beskrev dessa bias som "the silicon gaze" - en världsbild formad av utvecklarnas prioriteringar, plattformsägare och träningsdata som tränat modellen. De varnade för att bias i AI-system "riskerar att förstärka de ojämlikheter som systemen speglar" och skulle kunna leda till sämre hälsovård för rasifierade människor eller felaktiga förutsägelser om anställningsbarhet baserat på språk.

Studien noterade att ChatGPT tenderar att ranka länder högre när den har mer information om dessa platser och ofta återanvänder välbekanta stereotyper när den svarar på subjektiva frågor. Forskarna betonade att bias är en strukturell egenskap hos generativ AI snarare än en abnormitet, som härrör från träningsdatamängder formade av sekel av exkludering och ojämn representation.