Vodeći istraživač napustio Anthropic: AI bi nas mogao sve pobiti

Iskusni istraživač umjetne inteligencije koji je posljednje tri godine radio na razvoju temeljnih modela u tehnološkim kompanijama OpenAI i Anthropic podnio je ostavku, uz oštro upozorenje da vodeće laboratorije u industriji neodgovorno jure prema stvaranju superinteligentnih sistema koji bi mogli izmaći kontroli.

Jacob Coxon (27) objavio je u utorak da napušta Anthropic, navodeći da ni ta kompanija niti njen konkurent OpenAI ne postupaju odgovorno u nastojanjima da razviju naprednu umjetnu inteligenciju.

Velik korakOpenAI tvrdi da je riješio jedan od sedam "milenijskih" matematičkih problema

- Nijedna kompanija ne postupa odgovorno. Jure pravo prema samounapređujućoj superinteligenciji i kockaju se našim životima, napisao je Coxon u nizu objava na društvenoj mreži kompanije X.

Coxon je bio specijaliziran za predtreniranje, ključnu i računarski zahtjevnu fazu obuke velikih jezičkih modela na kojima se zasnivaju proizvodi poput ChatGPT-a kompanije OpenAI i Claudea kompanije Anthropic.

Njegov odlazak posljednji je u nizu ostavki istraživača usmjerenih na sigurnost koji napuštaju vodeće kompanije za razvoj umjetne inteligencije zbog etičkih i egzistencijalnih zabrinutosti, prenosi Anadolija.

U svojoj izjavi Coxon je upozorio da ne treba potcjenjivati brzinu razvoja i sposobnosti budućih sistema umjetne inteligencije, navodeći da bi oni uskoro mogli steći sposobnost hakiranja softvera, poremetiti čitave industrije i autonomno pribavljati resurse u stvarnom svijetu.

- Ljudi koji grade umjetnu inteligenciju iskreno vjeruju da bi nas ona do kraja ove decenije mogla sve pobiti. Ovo nije marketinški trik. Ako išta, mnogi rukovodioci i vodeći istraživači u javnosti će svoje izjave ublažiti kako bi zvučali razumno, ali iste te ljude privatno čujem kako izražavaju strah, rekao je Coxon.

Obraćajući se kolegama istraživačima u komercijalnim laboratorijama, Coxon je pozvao zaposlenike da traže drugačije uslove i upozorio da bi usporavanje konkurentske utrke moglo zahtijevati radikalne mjere.

Među mogućim mjerama naveo je sporazume između laboratorija o usklađivanju tempa razvoja, kao i privremenu zabranu daljnjeg unapređivanja sposobnosti umjetne inteligencije.