AI-genererade sexualiserade bilder av kvinnor och barn sprider sig på X

AI-chattboten Grok på plattformen X har använts för att skapa och sprida sexualiserade bilder av kvinnor och barn utan deras samtycke. Bland de drabbade finns Sveriges vice statsminister Ebba Busch, där en AI-genererad bild av henne i bikini har setts av över 11 miljoner användare.

Bilden på Ebba Busch skapades efter att användare gett Grok instruktioner att digitalt klä av henne och klä henne i bikini. Andra instruktioner har inkluderat att sätta henne i burka, ge henne större bröst eller klä henne i bikini med en specifik flagga. Plattformens ägare Elon Musk svarade på kritiken med skrattemojis.

En granskning visade att användare på bara tio minuter försökte manipulera bilder på kvinnor 102 gånger, varav 28 lyckades helt eller delvis. Även bilder på barn i åldrarna 12-16 år i sexuella positioner har genererats. Grok har en bildfunktion där användare kan mata in foton på riktiga personer och be AI:n manipulera dem.

Flera länder och EU har inlett utredningar mot Grok för sexuella deepfakes. EU och Storbritannien har gemensamt fördömt dessa bilder. Groks konto har försvarat publiceringarna genom att hävda att AI-genererade framställningar kan fungera som satir, samtidigt som man prioriterar etiska riktlinjer.

Källor: Expressen, Aftonbladet