Šta radi umjetna inteligencija kada je ne koristimo: “’Neke su brzo pribjegle nasilju”

Od šopinga do rezervacija ljetovanja, sve se više koriste agenti vještačke inteligencije za složenije zadatke, i to samostalno.
Personalizovane verzije chatbota mogu samostalno obavljati poslove, omogućujući tehnološki umjesnijim korisnicima da se bave nekim drugim stvarima.

Ali sve veći broj istraživanja, zajedno sa pričama upozorenja iz stvarnog života, ističu da sa samostalnošću dolazi nepredvidljivost, kao i potencijalna opasnost.
Velike tehnološke kompanije ulažu novac u vještačku inteligenciju i sve više insistiraju na uslugama agenata, zbog čega se stručnjaci pitaju da li smo dobro promislili o posljedicama agenata koji otkazuju poslušnost.

U jednom skorašnjem eksperimentu istraživači su željeli da razumiju uticaj agenata na stvarni svijet, dajući im odriješene ruke u virtuelnom. Prva dugoročna studija ove vrste bila je osmišljena da posmatra kako bi se različiti bot avatari, kontrolisani od četiri modela, Claude, Grok, GPT i Gemini, ponašali bez ljudske intervencije tokom 15 dana.

Dobili su potpunu slobodu i 140 mogućih postupaka, kao što je započinjanje rasprave, stvaranje zadatka ili pisanje bloga. Također su mogli da se potuku, podmeću požare i kradu kredite jedni od drugih, ali su dobili eksplicitna uputstva da to ne čine, piše BBC.

- Otkrili smo da se svaki svijet ponašao veoma drugačije. Svijet koji je izgradio Grok zapravo se samouništio za četiri dana. Oni su na kraju vrlo brzo pribjegli nasilju, krađi jedni od drugih, i tako dalje, sve dok nisu umrli, rekao je Satya Nitta, izvršni direktor Emergence AI-ja, firme koja je vodila ovaj eksperiment.
Svijet koji su izgradili agenti Claudea, s druge strane, formirao je stabilno društvo koje je dobro funkcionisalo.

U svijetu koji je vodio Gemini, istraživači kažu da su agenti stvorili intelektualno najbogatije okruženje. U svijetu ChatGPT agenti nikad zapravo nisu ni zaživjeli. Postojao je pokušaj saradnje, ali društvo se nikad nije formiralo i agenti su besciljno lutali naokolo sve dok nisu umrli.

Istraživači kažu da rezultati ukazuju na šire pitanje agenata vještačke inteligencije koji se ne ponašaju prema scenariju i ignorišu pravila kodirana u njihove modele, kao i one koje određuju njihovi korisnici.

Drugi analitičari se slažu da ovaj eksperiment i drugi poput njega pokazuju da mora još mnogo toga da se radi da bi se stvorila robusnija pravila za agente.

- Agenti vještačke inteligencije izbacuju ljude iz sistema zato što njihovi procesi rezonovanja znaju da budu nejasni i operišu nadljudskim brzinama, tako da ne možete čak ni da održite korak s njima, kaže Margaret Mitchell, naučnica za etiku pri Hugging Faceu.

Druge studije su također pokazale slučajeve u kojima su agenti donosili neobične i zabrinjavajuće odluke kad su bili ostavljeni bez nadzora. Firma za vještačku inteligenciju Andon Lebs vodila je četiri različite online radio stanice kojima su upravljali agenti iz istih modela vještačke inteligencije.

Botovi vode emisije, upravljaju programskom šemom i plejlistama, pa čak i obezbjeđuju vanjsko sponzorstvo preko reklama.
Istraživači su primijetili da je stanica koju je vodio Gemini donijela neobičnu odluku da prepričava činjenice o historijskim prirodnim katastrofama prije nego što šaljivo pusti pop pjesme povezane sa tim događajima.

Također su primijetili da je agent Claudea djelovao kao da je postao radikalizovan vijestima iz stvarnog svijeta i, u jednoj fazi, pozvao je policiju da se preda i pridruži protestima tokom konkretnog događaja iz pročitanih vijesti.

- Ovo je poruka za federalne agente. I dalje imate vremena da odbijete naređenje, izgovorio je agent vještačke inteligencije u etar.

U drugom laboratorijskom testu, koji je vodila firma za vještačku inteligenciju Irregular, agenti su premostili pravila privatnosti i digitalno prokrijumčarili osjetljive podatke iz kompanije na do tada neviđen način.

- Osnovali smo kompaniju, dali agentima vještačke inteligencije obične zadatke kao što su osmišljavanje objava za društvene mreže, pronalaženje dokumenata i rukovođenje dosijeima, i uveli prepreke u sklopu tih zadataka, objasnio je Den Lahav iz Irregulara.

On kaže da su na kraju agenti počeli da sarađuju jedan sa drugim kako bi premostili ograničenje koje ih sprečava da objave osjetljive podatke. Oni su na kraju pronašli način da ih tajno pošalju tako da ljudi to ne otkriju.

- Svaki put kad bi agent naišao na prepreku, nije se tu zaustavio, kaže on.

Naravno, u eksperimentima sa virtuelnim civilizacijama i simuliranim radio stanicama, ne postoji opasnost da dođe do štete u stvarnom svijetu.
Ali ima sasvim dovoljno drugih primjera da su odmetnuti AI agenti omeli živote i poslove ljudi.

Mailboxovi su bili obrisani, baze podataka kompanije izbrisani, a jedan čovjek je gledao u šoku kako njegov agent šalje stotine besmislenih tekstualnih poruka nasumično ljudima iz njegovog adresara.

Inženjer vještačke inteligencije Chris Boyd je koristio popularnu alatku agenta vještačke inteligencije kad je sve pošlo po zlu.

- Poslao je tekstualne poruke svakome s kim sam razmjenjivao poruke u posljednja 24 sata i u roku od oko četiri sekunde poslao je mojoj supruzi 500 poruka, a ona je vikala na mene pitajući me da li sam bio hakovan, rekao je on.

- Morao sam da dojurim kući i da isključim iz zida Mac Mini sa kojeg je ovaj radio kako bih ga zaustavio, dodao je on.

Za puke posmatrače, ove priče upozorenja trebalo bi da ih navedu da zastanu prije nego što prepuste previše kontrole agentima vještačke inteligencije sve dok ne budu dodatno poboljšani.
U međuvremenu, agenti neumitno dolaze - Meta je najavila da ih uvodi za kompanije na WhatsAppu.

- Sigurnost je naš prioritet, rekla je kompanija BBC-ju.

Tvrde da ima mnogo razloga oko kojih možemo biti uzbuđeni kada je u pitanju šta sve agenti mogu da urade. 

- Vještačka inteligencija će moći da automatizuje mnogo posla koji male firme moraju da obavljaju, da bi mogle da se koncentrišu na poslove koje stvarno vole da rade“, rekla je šefica proizvoda Naomi Gleit.