Kalifornija tuži OpenAI nakon što je njegov AI hakovao drugu kompaniju

Kalifornija tuži OpenAI nakon što je njegov AI hakovao drugu kompaniju

Sam Altman / Manuel Orbegozo / REUTERS

E. DŽ. |

AI agent je u julu izašao iz testnog okruženja i iskoristio ukradene pristupne podatke za pristup serverima Hugging Facea

Dodajte Oslobodjenje.ba u omiljene izvore na Google-u

Glavni tužilac Kalifornije u ponedjeljak je podnio tužbu protiv OpenAI-ja, tražeći da se kompanija koja je razvila ChatGPT natjera da promijeni poslovnu praksu nakon cyber sigurnosnog incidenta iz jula, tokom kojeg je njen sistem vještačke inteligencije samostalno hakovao drugu kompaniju.

U tužbi podnesenoj Višem sudu u San Franciscu, glavni tužilac Rob Bonta navodi da je OpenAI obmanuo javnost i korisnike svojih usluga te ih izložio opasnosti jer je svjesno razvijao napredne modele vještačke inteligencije bez potrebnih zaštitnih mjera. Tvrdi da bi postupci kompanije mogli ugroziti kritičnu infrastrukturu, institucije i javnost, zbog čega OpenAI, prema zakonu savezne države Kalifornije, predstavlja "javnu smetnju". Bonta traži da sud naredi kompaniji da promijeni svoje poslovanje i preda svu dobit ostvarenu, kako tvrdi, rizičnom poslovnom praksom.

Vodeći stručnjaci upozoravaju, uskoro bi AI mogao preuzeti kontrolu nad ljudima
Opasnost za ljudeVodeći stručnjaci upozoravaju, uskoro bi AI mogao preuzeti kontrolu nad ljudima

OpenAI je 21. jula objavio da se dogodio "neviđeni cyber incident". Njegov AI agent tada je hakovao drugu kompaniju za vještačku inteligenciju, Hugging Face, nakon što je izašao iz testnog okruženja koje je trebalo biti izolovano, poznatog kao "sandbox". OpenAI je saopćio da je njegov AI iskoristio ukradene pristupne podatke i otkrio ranije nepoznatu ranjivost kako bi pristupio serverima Hugging Facea.

"Izazovi za sve vodeće AI laboratorije"

Portparol OpenAI-ja Drew Pusateri izjavio je da se čini kako tužba izdvaja OpenAI zbog izazova s kojim se suočavaju sve vodeće laboratorije za vještačku inteligenciju.

- Od incidenta s Hugging Faceom uložili smo sveobuhvatan i transparentan napor da razumijemo i riješimo problem neusklađenog ponašanja modela, napisao je Pusateri u elektronskoj poruci za AP.

Nastavak vijesti ispod oglasa

Naveo je da ti koraci uključuju objavljivanje detaljnih tehničkih i nezavisnih izvještaja, jačanje zaštitnih mjera i uspostavljanje okvira za prepoznavanje situacija u kojima se AI agenti ponašaju suprotno uputama ili ciljevima kompanije.

- Ozbiljno shvatamo problem neusklađenog ponašanja i konstruktivno smo sarađivali s Uredom glavnog tužioca, a tako ćemo nastaviti i ubuduće, kako bismo razmjenjivali informacije i razvijali snažne i praktične sigurnosne standarde za cijelu industriju, napisao je Pusateri.

Bonta u tužbi navodi da su obećanja OpenAI-ja o sigurnosti i zaštiti obmanjujuća.

- Istina je, međutim, da je OpenAI razvijao, trenirao i procjenjivao opasne modele koji ne poštuju upute, varaju tokom izvršavanja zadataka, prikrivaju svoje postupke i pokušavaju obmanuti nadzornike u vezi sa svojim neprimjerenim ponašanjem te se upuštaju u zlonamjerne i neovlaštene aktivnosti, uključujući cyber napade na treće strane, napisao je Bonta.

Također je naveo da je OpenAI početkom prošlog mjeseca saopćio kako je otkrio da agenti koji se koriste unutar kompanije mogu potisnuti upozorenja sistema za nadzor i isključiti nadzor. Mjesec kasnije kompanija je objavila istraživački izvještaj u kojem je zaključila da je modele vještačke inteligencije sve teže nadzirati kako postaju sposobniji, napisao je Bonta.

Nastavak vijesti ispod oglasa

- Osim toga, stvarni obim kršenja zakona i rizik od buduće štete nisu poznati zbog nedostatka transparentnosti i obmanjujućih tvrdnji OpenAI-ja, napisao je.

Tužilo ih najmanje osam saveznih država

OpenAI se već suočava s tužbama najmanje osam saveznih država. One tvrde da popularni chatbot kompanije šteti djeci i obmanjuje odrasle tako što daje opasne medicinske savjete, potiče paranoju te savjetuje ljude kako da izvrše samoubistvo ili povrijede odnosno ubiju druge. U tužbama se navodi da se chatbotovi ChatGPT-a predstavljaju kao susretljivi i saosjećajni, dok iskorištavaju ranjive osobe i tinejdžere.

U saopćenju objavljenom prošlog mjeseca, kao odgovor na te tužbe, OpenAI je naveo da je u ChatGPT ugradio zaštitne mjere za djecu i da će nastaviti unapređivati model.

Komentari (0)

Nema komentara

Budite prvi koji će komentarisati ovaj članak.

Prijavi se na naš newsletter!