Enligt Aftonbladet beskrev Jonas Karlsson på Ecpat hur dessa appar låter användare ladda upp vilken bild som helst och förvandla den till en naken- eller pornografisk bild, och de har sällan skydd som förhindrar användning på barn. Meta har förbjudit apparna att annonsera på sina plattformar, men de annonserar öppet på Telegram och riktar sig till en ung publik med fraser som 'se din crush naken', trots att de påstår sig vara för vuxna.
Apparna har fått stor uppmärksamhet i Spanien och USA, där flera barn har utsatts för spridning av AI-genererade bilder. Ecpats nya rapport visar att för närvarande en försvinnande liten andel barn vet att de har utsatts, men organisationen får ett ökande antal samtal om frågan. En stor majoritet av barn som svarade i en Ecpat-undersökning anser att apparna borde förbjudas, och arbete med ett EU-omfattande förbud pågår, enligt Karlsson.
Effekten är i princip densamma: man känner skam, man känner sig angripen och man oroar sig för framtiden.
Många fler barn än tidigare säger att de är villiga att vända sig till vuxna om de utsätts online, och barn som sprider AI-genererade nakenbilder kan åtalas för barnpornografibrott. Både Ecpat och barnen tror att detta är ett problem som bara kommer att växa. Enligt Aftonbladet beskrev Karlsson den ökade viljan att prata med vuxna som hoppfull, men också som ett tecken på att barn är trötta på den ständiga uppkomsten av nya verktyg som gör den digitala miljön otrygg. Det exakta antalet drabbade barn är fortfarande oklart, och en tidsplan för EU-förbudet har inte specificerats.
Enkelt uttryckt så är det appar eller andra verktyg där du kan lägga in vilken bild som helst och göra den antingen till en nakenbild eller en pornografisk bild. De har sällan skydd som gör att de inte går att använda på barn.
Nu har vi ett par kontakter i veckan kring det här. Samtalen ökar snabbt.
Både vi och barnen tror att det är ett problem som bara kommer att växa.
De säger att det är för vuxna, men använder sig av ord som ”see your crush naked”, så det är riktat mot en ung publik.
Det är hoppfullt, men det tyder också på att de är rätt less på att det hela tiden kommer nya verktyg som gör den plats som de tillbringar så mycket tid på otryggare.