Javnost će ostati bez najmoćnijeg AI modela ikad zbog intervencije američke vlade

Kompanija Anthropic saopštila je da će "naglo onesposobiti" svoje najnaprednije AI modele za sve korisnike, nakon što je američka vlada naredila obustavu pristupa tim modelima za strane državljane, navodeći razloge nacionalne bezbjednosti.

Kompanija je dobila direktivu o izvoznoj kontroli kojom se nalaže obustava pristupa modelima Fable 5 i Mythos 5 za sve strane državljane, bez dobijanja konkretnih detalja o prirodi bezbjednosne zabrinutosti, navodi Anthropic u saopštenju.

Prema razumijevanju kompanije, vlada smatra da postoji metod zaobilaženja, odnosno "džejlbrejka", sigurnosne zaštite koja bi spriječila korištenje Fable 5 za pronalaženje softverskih ranjivosti.

Naredba dolazi u trenutku kada je prethodni spor između zvaničnika Trumpove administracije i Anthropica, koji se priprema za izlazak na berzu, počeo da se smiruje u dijelu američke vlade. Odnosi Anthropica sa vladom su se pogoršali ranije ove godine, nakon što je kompanija odbila da dozvoli američkoj vojsci korištenje svojih AI modela za domaće nadzore i potpuno autonomne oružane sisteme, na šta je vlada odgovorila stavljanjem Anthropica na crnu listu lanca nabavke.

Kako prenosi Guardian, Anthropic je naveo da je vlada kompaniji dala samo "verbalni dokaz o potencijalnom uskom, ne-univerzalnom džejlbreku". "Ne slažemo se da nalaz o potencijalnom uskom džejlbreku treba biti razlog za povlačenje komercijalnog modela koji koriste stotine miliona ljudi", navodi kompanija.

Vladina direktiva i Anthropicov odgovor ukazuju na rastuće tenzije između razvijača AI-ja i regulatora oko procjene rizika od takozvanih "džejlbrejkova", odnosno metoda zaobilaženja sigurnosnih zaštita modela.

Anthropic je još u srijedu pozivao na veći nadzor SAD-a nad AI-jem, uključujući mogućnost blokiranja modela sa neprihvatljivim rizicima, ali je naveo da petkova odluka vlade nije slijedila principe pravedne i na činjenicama zasnovane regulacije.

Glavna informatička službenica Pentagona, Kirsten Davies, napisala je na mreži X da Ministarstvo odbrane podržava prioritizaciju nacionalne bezbjednosti, poručivši da su neke stvari jednostavno važnije od prihoda, klikbejta i procjene vrijednosti kompanije pred izlazak na berzu.

Dosta ih se pokajaloMnoge firme bi rado vještačkom inteligencijom zamijenile ljude, ali to nije dobra ideja

Anthropic je prošlog mjeseca poverljivo podnio zahtjev za izlazak na američku berzu, prestigavši rivala OpenAI u trci za izlazak na javna tržišta.

Ranije ove sedmice, Anthropic je predstavio AI model nazvan Claude Fable 5, koji predstavlja novi nivo mogućnosti koji kompanija naziva "Mythos" klasom. Model dolazi sa mjerama zaštite koje zabranjuju njegovu upotrebu u rizičnim oblastima kao što je kibernetička bezbjednost, za koje su se neki korisnici žalili da su "preširoke", navodi Anthropic.

Stručnjaci su rekli da bi Mythos modeli, u pogrešnim rukama, mogli dramatično ubrzati sofisticirane kibernetičke napade, posebno u sektorima kao što je bankarstvo, koji se oslanjaju na složene, međusobno povezane i često decenijama stare tehnološke sisteme.

Anthropic je naveo da je radio sa američkom vladom, među ostalima, na bezbjednosti prije lansiranja Fable-a, i da modeli rivalskih AI kompanija pokazuju sličnu mogućnost otkrivanja manjih grešaka u kodu.

"Neto efekat ove naredbe je da moramo naglo onesposobiti Fable 5 i Mythos 5 za sve naše korisnike radi usklađenosti. Pristup svim ostalim Anthropic modelima neće biti pogođen", navodi kompanija.

Anthropic je naveo da vjeruje da je riječ o "nesporazumu" i da radi na ponovnom uspostavljanju pristupa modelima što je prije moguće.

Američki zvaničnik je potvrdio da je Ministarstvo trgovine izdalo direktivu o izvoznoj kontroli kojom se nalaže obustava svakog pristupa modelima Fable 5 i Mythos 5 za strane državljane.