AI je opsjednuta čuvarom svjetionika po imenu Elias Thorne, iako on ne postoji

Istraživači koji proučavaju ponašanje modela vještačke inteligencije otkrili su neobičan obrazac u pričama koje generiraju popularni chatbotovi. U velikom broju slučajeva pojavljuju se isti likovi, ista imena i vrlo slični motivi, iako takvi obrasci nisu karakteristični za književnost koju pišu ljudi. Jedan od najčešćih primjera je izmišljeni lik Elias Thorne, koji se u pričama vještačke inteligencije pojavljuje kao čuvar svjetionika, bibliotekar, urar, detektiv ili nosilac nekog drugog nostalgičnog zanimanja. U mnogim slučajevima priče uključuju i svjetionike, karte, zaboravljena kraljevstva ili usamljene likove.

U još nerecenziranom naučnom radu istraživači su analizirali 20.000 priča koje su generirala četiri popularna velika jezička modela. Rezultati su pokazali da se ime Elias pojavljuje u više od četvrtine svih analiziranih priča. Autori studije također su ustanovili da se mala grupa od samo 11 pojmova pojavljuje u čak 88 posto priča koje su napisali modeli vještačke inteligencije.

Među najčešćim riječima nalaze se imena Elias, Elara i Mara, dok su među najzastupljenijim motivima svjetionici, bibliotekari i urari. Na prvi pogled moglo bi se pretpostaviti da su takvi elementi česti i u književnosti koju stvaraju ljudi te da ih modeli jednostavno preuzimaju iz podataka na kojima su trenirani. Međutim, istraživači navode da njihova analiza pokazuje suprotno, prenosi iflscience.com.

Prema rezultatima studije, ime Elias pojavljuje se čak 900 puta češće u pričama koje generira vještačka inteligencija nego u stvarnoj književnosti. Zbog toga autori smatraju da objašnjenje ne treba tražiti u izvornim podacima za treniranje modela, već u načinu na koji vještačka inteligencija stvara i usavršava vlastiti sadržaj.

Jedan od razloga mogao bi biti skup pravila kojima su modeli ograničeni nakon procesa treniranja. Na primjer, mnogi modeli pokazuju sklonost korištenju sadržaja za odrasle ili zaštićenih likova, ali su programirani da takve priče ne prikazuju korisnicima. Time se smanjuje broj mogućih referenci koje mogu koristiti pri generiranju novih priča.

Dodatni utjecaj ima i sistem povratnih informacija korisnika. Modeli često nude više odgovora na isto pitanje i na osnovu reakcija korisnika uče kakav sadržaj ljudi preferiraju. Autori istraživanja pretpostavljaju da različiti modeli koriste slične skupove podataka o korisničkim preferencijama te da iz njih zaključuju kako ljudi vole priče o Eliasu, svjetionicima, bibliotekarima i sličnim motivima.

Problem nastaje kada se takve priče počnu masovno objavljivati na internetu. Kasnije se one vraćaju u skupove podataka koji se koriste za treniranje novih modela, pa vještačka inteligencija praktično počinje učiti iz sadržaja koji je sama proizvela. Ovaj proces poznat je pod nazivom „mode collapse“. Riječ je o fenomenu u kojem modeli sve češće ponavljaju iste obrasce, motive i likove, jer ih kroz vlastiti sadržaj prepoznaju kao poželjne.

Posljedica toga je začarani krug u kojem chatbotovi stvaraju sve više priča s istim elementima, a zatim iz tih priča uče da upravo takve priče treba nastaviti pisati. Softverski inženjer Daniel May navodi da je fenomen relativno nov. Prema njegovim riječima, broj Google pretraga za ime Elias Thorne naglo je porastao tokom prvih mjeseci 2026. godine.

Od tada je ovaj izmišljeni lik izašao iz okvira chatbot priča i počeo se pojavljivati kao navodni autor brojnih knjiga generiranih vještačkom inteligencijom, uključujući i publikacije koje nude alternativne pristupe liječenju raka. Istraživači smatraju da ovaj slučaj pokazuje jedno od važnih ograničenja savremene vještačke inteligencije. Ukoliko modeli ne dobijaju dovoljno raznovrsne ulazne podatke, postoji mogućnost da se sve više oslanjaju na vlastiti sadržaj, stvarajući začarani krug ponavljanja istih ideja.

Studija je za sada dostupna kao preprint na platformi arXiv i još nije prošla proces stručne recenzije.