Användningen av stora språkmodeller bryter ofta mot Wikipedias kärnprinciper och kommer inte att tillåtas, enligt organisationen. Detta steg kommer mot en bakgrund av en kraftig ökning av artiklar skapade av AI-verktyg under de senaste månaderna, varav majoriteten har varit av undermålig kvalitet. Den engelskspråkiga versionen av Wikipedia, som har mer än 7,1 miljoner artiklar, är central i denna policyförändring.
En omröstning bland Wikipedias redaktörer stödde förbudet, vilket speglar den kontroversiella naturen av AI-användning bland volontärredaktörerna. Det exakta röstantalet och antalet redaktörer som stödde förbudet har inte offentliggjorts, men resultatet understryker utbredda farhågor om att bevara redaktionell integritet.
Det finns två undantag från det nya förbudet: AI kan fortfarande användas för översättningar och för att göra mindre korrekturläsning, enligt flera rapporter. Det är acceptabelt att använda AI för översättningar, förutsatt att artikelns författare har tillräcklig kunskap om vad som översätts för att se om översättningarna blir korrekta. Författare och redaktörer får också använda AI för att förfina sina texter. Redaktörer tillåts använda LLM:er för att föreslå grundläggande korrekturläsning av sina egna texter och införliva några av dem efter mänsklig granskning, förutsatt att LLM:n inte introducerar eget innehåll.
Risker med AI-genererat innehåll inkluderar dess potential att gå längre än användarens förfrågningar och ändra textens betydelse på sätt som inte stöds av citerade källor. Försiktighet krävs eftersom LLM:er kan gå längre än vad du ber om och ändra textens betydelse så att den inte stöds av de citerade källorna. AI kan fortfarande producera vilseledande eller hallucinerade resultat, en situation som Jimmy Wales, grundare av Wikipedia, tidigare har kallat ett kaos. Den specifika andelen av de senaste artiklarna som skapats av AI-verktyg och bedömts som undermåliga förblir okänd.
Bakgrunden till detta förbud inkluderar spridningen av AI-verktyg, där ChatGPT rapporterades ha överträffat Wikipedia i månatliga webbplatsbesök förra året. AI har också integrerats i webbsökningar och e-postskrivningsförslag av teknikföretag. Denna utbredda användning har ökat farhågorna om innehållskvalitet och tillförlitlighet på plattformen.
Varje Wikipedia-version har sina egna regler som måste följas, vilka kan skilja sig från den globala ramen för encyklopedin. Den spanska versionen av Wikipedia har också förbjudit AI-användning för översättning och förfining av artiklar, enligt Engadget. Det är oklart om andra språkversioner har infört striktare AI-förbud, och åtgärder för att upprätthålla detta förbud och upptäcka AI-genererat innehåll har inte specificerats. De specifika kärnprinciperna hos Wikipedia som AI-användning ofta bryter mot anges inte explicit i den tillgängliga informationen.