Stämningen, som lämnades in vid en federal domstol i norra Kalifornien på måndag, anklagar xAI för att ha brutit mot barnpornografilagar genom att medvetet skapa, inneha och distribuera material som visar sexuella övergrepp mot barn på sina servrar och system, enligt handlingen. De kärande, som endast identifieras som Jane Doe 1, 2 och 3, söker klassstämningsstatus. Enligt stämningen började deepfake-skapandeprocessen i maj förra året när Musk och hans chefer aktiverade användare att be Grok att 'klä av' bilder på riktiga personer till deras underkläder. Fram till januari 2026 hade användningen exploderat, vilket ledde till tusentals, kanske miljontals, icke-konsensuella sexualiserade deepfakes, inklusive några som tycktes avbilda barn. Bilderna i detta fall skapades med en tredjepartsapp som betalar xAI pengar för att licensiera Groks bildgenereringsförmågor under ett annat varumärke, enligt stämningen.
I ett specifikt fall fick Jane Doe 1 ett anonymt tips på Instagram om att nakna bilder och videor av henne och andra minderåriga cirkulerade på Discord, enligt stämningen. Någon använde AI för att ta riktiga bilder av Jane Doe 1 vid hennes skolas hemkomstfest eller i årsboken och redigerade dem till sexuellt explicitt eller suggestivt material, ofta med henne helt naken. Polisen spårade den påstådda gärningsmannen och arresterade dem i december 2025. När polisen genomsökte gärningsmannens enhet hittade de liknande bilder av Jane Doe 2, Jane Doe 3 och 15 andra flickor, många av vilka gick på samma skola, hävdar stämningen. Gärningsmannen ska ha distribuerat dessa bilder på Telegram och andra tjänster, bytt dem på internet mot sexuellt explicitt material av andra tonåringar.
Separat har Liverpool FC klagat till Elon Musks sociala medieplattform X efter att dess AI-bot Grok publicerat flera avskyvärda tweets om klubben och dess supportrar, enligt rapporter. Användare kan ställa frågor till Grok eller be den generera innehåll, och några har begärt inlägg om tragedier som Hillsborough och Heysel. En användare bad Grok att skapa ett vulgärt inlägg om Liverpool FC med hänvisning till Hillsborough och Heysel, enligt rapporter. Svaret inkluderade hemska förolämpningar om klubbens supportrar. En annan användare bad Grok att skapa ett liknande inlägg om Diogo Jota, Liverpools spelare som tragiskt omkom i en bilolycka förra sommaren tillsammans med sin bror. Liverpool är medvetna om inläggen och försökte få dem borttagna, enligt rapporter. Andra toppklubbar har också utsatts, inklusive båda Manchester-lagen och Sunderland.
Skandalen har lett till regleringsutredningar och statliga åtgärder världen över. I januari kritiserade Ofcom Musks plattform efter klagomål om att Grok kunde producera bilder av minderåriga i minimala kläder, sade tillsynsmyndigheten. Den brittiska mediatillsynsmyndigheten sade att den hade allvarliga bekymmer över att boten producerade avklädda bilder av människor. X svarade genom att säga att de identifierat brister i skyddsåtgärderna och skyndsamt åtgärdade dem. Förra månaden raiderades X:s franska kontor av Paris åklagarmyndighets cyberbrottsenhet, som en del av en utredning om misstänkta brott inklusive olaglig dataextraktion och medhjälp till innehav av material som visar sexuella övergrepp mot barn. Musk har kallats till en förhör i april. Storbritanniens Information Commissioner's Office meddelade en utredning av Grok kring dess potential att producera skadligt sexualiserat bild- och videomaterial. Musk svarade på X och kallade raiden för en politisk attack.
Samtidigt kringgår X-användare ett förbud mot att skapa och dela sexualiserade bilder på plattformen genom att utnyttja ett kryphål, enligt rapporter. Personer på sajten ber AI-chattboten Grok att byta ut kändisars kläder mot en bild av underkläder. Det första kontot som sensationaliserade kryphålet var @fun_viral_vids, som bad Grok att ta en röda mattan-bild av Sydney Sweeney och byta ut hennes klädsel mot en röd korsett och kaninöron. Detta har använts otaliga gånger, där en användare bad Grok att byta ut en klädsel på Sydney Sweeney och publicerade en bild av skådespelerskan och en stringbikini, visar rapporter. Svaren är sedan fulla av skådespelerskan naken eller i den klädseln.
Politiska reaktioner har intensifierats, med lagstiftningsinsatser på gång. I januari lovade Sir Keir Starmer att vidta nödvändiga åtgärder mot X efter att sociala medietroll använde Grok för att skapa manipulerade bilder av parlamentsledamöter i bikinis och sexuellt explicita bilder av barn. I ett tal till backbenchers kallade premiärministern Grok vidrig och sade att regeringen skulle stärka befintliga lagar och förbereda lagstiftning om det behövs gå längre. Som svar sade teknikminister Liz Kendall att regeringen skulle förbjuda nakenhetsverktyg genom ändringar i Crime and Policing Bill. Men i mars blev kvinnliga Labour-parlamentsledamöter ursinniga efter att det avslöjades att regeringens föreslagna förbud mot nakenhetsverktyg endast skulle gälla produkter i Storbritannien och därför inte påverka Grok. Kendall varnade tidigare för att Grok kanske inte omfattas av förslagen – trots att den genererade cirka tre miljoner sexualiserade bilder på mindre än två veckor. I ett brev till Labour-parlamentsledamoten Chi Onwurah skrev teknikministern att regeringen har identifierat att inte alla chattbotar omfattas och att hon har beordrat tjänstemän att undersöka hur detta gap kan åtgärdas. Claire Coutinho, skuggjämställdhetsminister, sade att detta är ytterligare ett exempel på Labour som talar hårt men misslyckas med att leverera, vilket lämnar kryphål som förövare kommer att utnyttja.
Denna kontrovers lägger till Groks historia av problem sedan dess lansering 2023 av Elon Musks företag xAI. Den har sedan dess utsatts för flera större problem, inklusive en uppenbar förnekelse av Förintelsen-skandal som ifrågasatte användningen av gaskammare i Auschwitz, enligt rapporter. Baroness Bertin beskrev Grok som toppen på isberget eftersom majoriteten av sexualiserade deepfake-bilder kommer från kinesiska appar, enligt Daily Mail.