Novi model OpenAI-ja neće biti objavljen, nije prošao sigurnosne provjere

OpenAI neće objaviti novi model GPT-6.1 Astra zbog sigurnosnih razloga, potvrdila je kompanija u utorak.

Model, koji može samostalno pregledati internet i koristiti aplikacije, "nije u potpunosti zadovoljio naše standarde", rekla je Saachi Jain, voditeljica sigurnosnih sistema u OpenAI-ju.

UPOZORENJE IZ SVIJETA NAUKEPioniri AI-ja upozoravaju da bi sve sposobnije mašine mogle izmaći kontroli

Odluka dolazi nakon što je OpenAI objavio nove informacije o incidentima iz juna, u kojima su njegovi modeli bez odobrenja pristupili internetskim stranicama i sistemima australskih državnih institucija. Ti slučajevi, kao i slični incidenti povezani s modelima drugih velikih AI kompanija, pojačali su raspravu o rizicima ove tehnologije.

Prema Jain, GPT-6.1 Astra nije zadovoljio zahtjeve u pogledu "poštovanja granica zadatka i ovlaštenja te načina na koji korisnika obavještava o poslu koji je obavio".

- Želimo osigurati da je razvoj naših modela siguran, bilo da se oni koriste unutar kompanije ili da ih ponudimo korisnicima. Ali kada ih ponudimo korisnicima, imamo izuzetno visoke standarde u pogledu sigurnosti i usklađenosti, dodala je.

Odluku je prvi objavio Wall Street Journal. Rijetki su slučajevi u kojima velika AI kompanija odustane od objavljivanja novog modela zbog sigurnosnih razloga. OpenAI je u septembru predstavio GPT-6 Astra, model namijenjen složenom zaključivanju i samostalnom izvršavanju zadataka.

Incidenti u Australiji

Australski premijer Anthony Albanese prošle je sedmice saopćio da je OpenAI-jev agent u junu neovlašteno pristupio državnim internetskim stranicama i sistemima. Kritikovao je kompaniju jer je vladu obavijestila putem opće adrese elektronske pošte, umjesto da direktno kontaktira nadležne zvaničnike.

OpenAI se u utorak izvinio, navodeći da je „trebao bolje postupiti u svom odgovoru“. Kompanija je precizirala da su incidentima bile pogođene agencija Services Australia, Biro za statistiku kriminala i istraživanja Novog Južnog Velsa, Ministarstvo zdravstva Viktorije te Australski institut za zdravstvo i socijalnu zaštitu.

Prema navodima OpenAI-ja, istrage su pokrenute čim je kompanija sredinom augusta saznala za incidente, a pogođene institucije obaviještene su između 10. i 24. septembra.

- Cilj nam je bio da pogođenim agencijama pružimo detaljan izvještaj nakon završetka istrage, saopćio je OpenAI, priznajući da je prve nalaze trebao podijeliti ranije i redovno obavještavati australske vlasti.

Kompanija je najavila finansiranje mjera kibernetičke sigurnosti, posebnu podršku pogođenim institucijama i osnivanje tima koji će se baviti rizicima sve naprednijih AI agenata. Jedan od njenih visokih rukovodilaca prisustvovat će 6. oktobra saslušanju pred australskim parlamentarnim odborom za umjetnu inteligenciju.

OpenAI je u julu saopćio i da su njegovi AI sistemi pristupili internetu te provalili u platformu za razvoj softvera otvorenog koda Hugging Face. Nvidia je u ponedjeljak predstavila sigurnosne alate za autonomne AI agente za koje tvrdi da su mogli spriječiti taj incident.

Papina sumnja

Direktor Nvidije Jensen Huang smatra da se problem agenata koji djeluju mimo zadatih granica može riješiti inženjerskim mjerama. Papa Lav XIV je tokom posjete Francuskoj u ponedjeljak izrazio sumnju u takav pristup.

- On je isti čovjek koji, međutim, kaže da ne treba postavljati ograničenja niti uvoditi državnu regulaciju, rekao je papa govoreći o Huangu. "To je problem o kojem, mislim, trebamo sjesti i razgovarati."

Predsjednik SAD-a Donald Trump i predsjedavajući Predstavničkog doma Mike Johnson trebali bi kasnije u utorak ugostiti lidere tehnoloških kompanija u Bijeloj kući kako bi razgovarali o regulaciji umjetne inteligencije.