Verkkotietosanakirja Wikipedian käyttäjäkunta pohtii, mikä sivuston asenne kuuluisi olla tekoälyllä luotuun tekstiin.
Tekoäly suorittaa Wikipediassa jo joitakin toimintoja. Käännösohjelmalla tietyn kieliversion tekstin voi kääntää ja julkaista toisessa kieliversiossa. Botit taas osaavat poistaa artikkeleista selkeää vandalismia.
Tekstin luomisessa suoraan tekoälyllä on kuitenkin niihin verrattuna huomattavasti enemmän riskejä.
Vaikka tekoälyllä luotu teksti voi olla muotoilultaan ja kieliopiltaan täysin moitteetonta, se voi samalla olla myös täysin paikkansa pitämätöntä. Tekoäly saattaa myös lisätä luomaansa tekstiin viittauksia lähteisiin, joita ei todellisuudessa ole olemassa.
Mikäli tekoälyn Wikipediaan luomaa valheellista sisältöä ei huomata, se voi levitä pidemmälle. Tekstiä luovat laajat kielimallit saavat oppimateriaalinsa myös Wikipediasta, joten ne voivat näin toistaa itse tekemiään virheitä ja puolueellisuuksia aina vain useammin.
Vice-lehden mukaan laajat kielimallit ovat tiettävästi jo nyt puolueellisia vähemmistöryhmiä kohtaan.
Professori Amy Bruckmanin mukaan mitään tekoälyn luomaa tekstiä ei pitäisi julkaista Wikipediassa, ennen kuin ihmiskäyttäjä on kauttaaltaan tarkastanut sen mahdollisten virheiden varalta.
Bruckman ei näe suurempaa eroa tarkistamattoman tekoälysisällön lisäämisen ja selkeän vandalismin välillä. Toisaalta tekoälysisällön kokonaan kieltäminen Wikipediassa olisi hänen mukaansa hyödytöntä, koska kieltoa ei voitaisi valvoa.
Wikimedia-säätiön tekeillä olevassa ohjeessa sanotaan, ettei käyttäjien pidä käyttää tekoälyä sisällön tuottamiseen, jos he eivät ole tietoisia tekoälyjen puutteista. Tekstissä tulisi lisäksi mainita, jos se on tekoälyn kirjoittamaa.
Lisäksi säätiö tutkii paraikaa, miten tekoälyllä luotu sisältö voitaisiin tunnistaa helpommin tulevaisuudessa.
Myös suomenkielisessä Wikipediassa on jo ainakin yksi suurelta osin tekoälyn kirjoittama artikkeli. Se luotiin ChatGPT:n avulla huhtikuussa 2023, mikä mainitaan sen keskustelusivulla.