Valeuutiset ja virheellinen tieto saattavat saada uutta pontta tekoälystä. Uuden tutkimuksen mukaan ihmiset nimittäin uskovat virheellistä tietoa sisältävään Twitter-päivitykseen todennäköisemmin, jos sen on kirjoittanut tekoäly.
Tekoälyn uskottavuutta valepukkina testattiin Business Insiderin mukaan Science Advances -lehden artikkelia varten. Käytetty tekoäly oli OpenAI:n laaja kielimalli GPT-3.
Tekoälyn Twitter-kirjoituksia näytettiin yhteensä 697 koehenkilölle yhdessä oikeiden ihmisten Twitter-päivitysten seassa. Päivitysten aiheina olivat esimerkiksi koronaviruspandemia ja 5g-teknologia, koska niistä on liikkeellä oikeastikin paljon valheellista tietoa.
Koehenkilöitä pyydettiin arvioimaan, mitkä päivitykset olivat ihmisen ja mitkä tekoälyn kirjoittamia. Samoin heitä pyydettiin sanomaan, mitä päivityksiä he pitivät tosina ja mitä taas valheellisina.
Tutkimuksen perusteella tekoälyn kirjoittamia päivityksiä ei ollut mahdollista erottaa ihmisten päivityksistä. Niiden kirjoittamia paikkansa pitämättömiä päivityksiä myös pidettiin yleisesti uskottavampina kuin ihmisten valheita. Toisaalta myös tekoälyn kirjoittamiin tosijuttuihin luotettiin enemmän kuin ihmisten vastaaviin.
Eräässä asiassa ihmiset kuitenkin vetivät pidemmän korren. Tekoäly oli nimittäin itse ihmistä huonompi virheellisen tiedon erottamisessa.
Science Advances -artikkelin tekoon osallistuneet tutkijat kutsuvat tulosten perusteella GPT-3-kielimallia ”kaksiteräiseksi miekaksi”. Se voi toisaalta selkeyttää viestintää, mutta sitä voidaan myös väärinkäyttää aiempaa tehokkaampaan disinformaation levittämisessä.
”Tämän kaltaista teknologiaa voitaisiin helposti käyttää luomaan valtava myrsky disinformaatiota mistä tahansa aiheesta, josta käyttäjä sellaisen haluaakin luoda”, asiaa kommentoi tutkimusta johtanut Giovanni Spitale The Vergen mukaan.