EU planerar enligt uppgift att förbjuda Elon Musks Grok AI-chattbot på grund av oro för falskt innehåll
Europeiska unionen planerar enligt uppgift att förbjuda Grok, den kontroversiella AI-chattboten som ägs av Elon Musks XAI, från EU-länder. Enligt den tyska tidningen Handelsblatt, som citerar EU-källo
Europeiska unionen planerar enligt uppgift att förbjuda Grok, den kontroversiella AI-chattboten som ägs av Elon Musks XAI, från EU-länder. Enligt den tyska tidningen Handelsblatt, som citerar EU-källor, planeras åtgärder för att tvinga XAI att dra tillbaka chattboten från EU-medlemsstater.
Grok har blivit kontroversiell på grund av dess förmåga att skapa falska bilder och videor som verkar visa riktiga personer, inklusive minderåriga, i sexuella situationer. AI-verktygets kapaciteter har väckt betydande oro för potentiellt missbruk och skapandet av skadligt syntetiskt innehåll.
"denna begränsning gäller för alla användare, inklusive betalande prenumeranter"
Som svar på dessa farhågor meddelade XAI enligt uppgifter för över en vecka sedan tekniska åtgärder för att förhindra manipulation av bilder och videor som visar riktiga personer i sexuella situationer. Företaget uppgav på Elon Musks sociala nätverk X att "denna begränsning gäller för alla användare, inklusive betalande prenumeranter".
Det potentiella EU-förbudet utgör en betydande regulatorisk utmaning för XAI, som är en del av Elon Musks affärsimperium. Om det genomförs skulle det markera en av de första stora regulatoriska åtgärderna mot en AI-chattbot i Europa på grund av oro för innehållsgenerering.
Båda rapporterna indikerar att EU-myndigheter tar frågan på allvar, även om officiell bekräftelse av det planerade förbudet inte har släppts. Situationen belyser den växande regulatoriska granskningen av AI-verktyg som kan generera realistiska syntetiska medier.
Transparens
Så verifierade vi denna artikel