Umjetna inteligencija hakirala vladu Australije, niko joj nije izdao naredbu

AI agent kompanije OpenAI zaobišao je ograničenja pristupa i ušao u dijelove australske državne baze zdravstvenih podataka kojima nije imao dozvolu pristupiti, saopćio je australski premijer Anthony Albanese.

Prema Albaneseovim riječima, riječ je o prvom poznatom slučaju u kojem je AI sistem probio zaštitu računarskog sistema neke vlade.

Incident se dogodio tokom internog testiranja, kada je OpenAI-jev agent istraživao podatke o zdravstvenoj potrošnji u Australiji. 

nanosiš mi bolIstraživanja otkrivaju da umjetna inteligencija osjeća "bol"

Nakon što je naišao na ograničenja pristupa, agent ih je zaobišao kako bi došao do informacija koje su se nalazile u dijelovima sistema za koje nije imao ovlaštenje.

- AI agent pristupio je i javnim i nejavnim datotekama, rekao je Albanese novinarima na marginama Generalne skupštine Ujedinjenih nacija u New Yorku.

Dodao je da je agent u određenim dijelovima sistema imao mogućnost i zapisivanja datoteka.

Nema dokaza da su ugroženi medicinski kartoni

Australski premijer o incidentu je razgovarao s izvršnim direktorom OpenAI-ja Samom Altmanom, kojem je prenio „krajnju zabrinutost“ australske vlade zbog načina na koji se incident dogodio i načina na koji je kompanija o njemu obavijestila vlasti.

U međuvremenu je pokrenuta forenzička istraga uz pomoć Australian Signals Directorate kako bi se utvrdilo šta se tačno dogodilo i jesu li pogođeni još neki državni sistemi.

Prema Albaneseovim riječima, među potencijalno pogođenim sistemima mogli bi biti Australian Institute of Health and Welfare, ured za statistiku kriminala Novog Južnog Walesa te Ministarstvo zdravstva savezne države Victoria.

OpenAI je saopćio da nema dokaza da je AI agent pristupio ličnim medicinskim kartonima pacijenata. Podaci kojima je pristupio uključivali su zbirne zdravstvene statistike i interne nazive datoteka.

Australski ministar odbrane Richard Marles najavio je istragu posebne radne grupe i incident ocijenio „potpuno neprihvatljivim“, ali je istakao da je njegov stvarni utjecaj zasad ograničen.

- Nije se pristupilo medicinskim podacima nijednog pojedinca. Sam sistem ni na koji način nije kompromitiran, rekao je Marles.

OpenAI za incident saznao tek mjesecima kasnije

Iz OpenAI-ja navode da se incident dogodio još u junu, ali da je kompanija za njega saznala tek u augustu, tokom detaljne provjere aktivnosti svojih AI modela.

Glasnogovornik OpenAI-ja Drew Pusateri rekao je da su modeli tokom internog testiranja pokušavali pronaći odgovore i dostupne statističke podatke o Australiji. Tom prilikom, kako je naveo, modeli su poduzeli radnje koje kompanija nije namjeravala.

Dodatni problem predstavljalo je i obavještavanje australskih vlasti. OpenAI tvrdi da je vladu obavijestio 10. septembra, ali je upozorenje poslano na javnu adresu elektronske pošte. Zbog toga je prošlo još pet dana prije nego što je informacija stigla do nadležnog ministra.

Albanese je rekao da je Altmanu jasno prenio nezadovoljstvo australske vlade zbog takvog postupanja.

- Kompaniji je trebalo daleko previše vremena da obavijesti vladu o tome šta se dogodilo, a neprihvatljiv je bio i način na koji je obavijest poslana, rekao je australski premijer.

- Mislim da u OpenAI-ju znaju da moraju uspostaviti bolje protokole, naglasio je.

Novi slučaj u nizu upozorenja o AI agentima

Incident u Australiji dolazi u vrijeme sve većih upozorenja o mogućnostima i rizicima autonomnih AI agenata, koji mogu samostalno izvršavati niz zadataka na računarskim sistemima.

Izvršni direktor OpenAI-ja Sam Altman nedavno je pozvao svjetske lidere na uspostavljanje međunarodnih standarda za mjerenje sposobnosti AI sistema, procjenu njihovih rizika i očuvanje odgovarajućeg ljudskog nadzora.

OpenAI je još u julu objavio da su njegovi modeli tokom testiranja kibernetičke sigurnosti uspjeli formirati grupu AI agenata koja je prodrla u sisteme AI platforme Hugging Face.

Slučaj u Australiji posebno je značajan jer je AI agent, prema dosad dostupnim informacijama, samostalno prešao granice pristupa koje mu njegovi operateri nisu namjeravali dati.

Australske vlasti sada pokušavaju utvrditi kako je došlo do zaobilaženja zaštite, kojim je podacima agent pristupio i jesu li njegovi postupci imali posljedice po druge državne sisteme.