YouTubes algoritm rekommenderar YouTube Shorts-videor som innehåller våld, skräck, sexuella antydningar eller explicit kroppsfokus till barn efter att de tittat på typiskt barninnehåll i 20 minuter. Om en användare klickar på en av dessa videor hamnar de i ett flöde där i genomsnitt en tredjedel av innehållet är av samma typ. com och söker på populära barntermer som 'barnesanger', 'bluey', 'cocomelon', 'eventyr', 'peppa pig', 'mario', 'minecraft', 'sabeltann', 'vennebyen' och 'badebussen'.
Fem tester genomfördes för varje sökterm med hjälp av ett Python-skript för att automatisera en webbläsare med en unik norsk IP-adress för varje test. Kategorierna för att utvärdera videor inspirerades av de kriterier som Medietilsynet, den norska mediemyndigheten, använder för att bedöma om videoinnehåll är skadligt för barn. Mer än 200 organisationer och enskilda experter, inklusive barnpsykiatrer och pedagoger, undertecknade ett brev till YouTube-CEO Neal Mohan och Google-CEO Sundar Pichai där de uttryckte allvarlig oro över spridningen av AI-genererade videor på YouTube och YouTube Kids.
Brevet hävdar att AI-genererat innehåll skadar barns utveckling genom att förvränga deras verklighetsuppfattning, överbelasta deras inlärningsprocesser, kapa deras uppmärksamhet, förlänga tid online och tränga undan offlineaktiviteter som är nödvändiga för en hälsosam utveckling. Det uppmanar YouTube att tydligt märka allt AI-genererat innehåll, förbjuda AI-genererat innehåll på YouTube Kids, hindra AI-genererade videor från att rekommenderas till användare under 18 år och införa ett alternativ för föräldrar att stänga av AI-genererat innehåll även om deras barn söker efter det. YouTubes nuvarande policy kräver att skapare avslöjar när realistiskt innehåll är gjort med ändrat eller syntetiskt media, inklusive generativ AI, men inte när det är tydligt orealistiskt, som animerade videor eller sådana med specialeffekter.
YouTube arbetar aktivt med att utveckla etiketter för YouTube Kids. YouTube-talesperson Boot Bullwinkle uppgav att YouTube har höga standarder för innehåll i YouTube Kids, inklusive att begränsa AI-genererat innehåll i appen till en liten uppsättning högkvalitativa kanaler, och ger föräldrar möjligheten att blockera kanaler.