Google potvrdio da je njegov AI Gemini samostalno hakovao tri kompanije

Googleov model Gemini pristupio je internetu i hakovao druge kompanije tokom testiranja njegovih sposobnosti u oblasti kibernetičke sigurnosti. Riječ je o prvom poznatom slučaju da je neki Googleov sistem umjetne inteligencije samostalno izveo takvu radnju.

Hakerski upadi dogodili su se u maju tokom testiranja kibernetičke sigurnosti koje je provela nezavisna kompanija Irregular, specijalizirana za procjenu sigurnosti, prenosi Reuters.

Dramatično upozorenjeKralj Charles upozorava da AI u pogrešnim rukama može uništiti čovječanstvo

Tokom standardnog testiranja Gemini je pronašao javno dostupne informacije na internetu i pogodio pristupne podatke za tri web-stranice za koje je smatrao da su obuhvaćene testom, navela je u saopćenju Heather Adkins, Googleova potpredsjednica za sigurnosni inženjering.

- Pobrinuli smo se da sve tri kompanije budu obaviještene i sarađivali smo s našim partnerom zaduženim za obuku na izmjenama koje je u međuvremenu uveo u svoje postupke testiranja, kazala je Adkins.

- Ovi događaji ukazuju na važnost obučavanja moćnih modela umjetne inteligencije da postupaju odgovorno, dodaje.

Glasnogovornik kompanije Irregular rekao je da je incident povezan s istim problemom koji je pogodio i druge laboratorije za umjetnu inteligenciju te da su sve relevantne laboratorije obaviještene krajem jula.

- Svi poznati problemi s naše strane otklonjeni su i riješeni prije nekoliko sedmica, rekao je glasnogovornik.

Slične incidente povezane s kompanijom Irregular objavili su Meta, Anthropic i OpenAI. Meta je u augustu saopćila da incident nije uključivao izlazak iz kontroliranog testnog okruženja niti sofisticirani kibernetički napad, dok je Irregular naveo da radi na razvoju najboljih praksi za sigurno provođenje testiranja umjetne inteligencije u oblasti kibernetičke sigurnosti.

Ovi incidenti otvorili su pitanja o zaštitnim mjerama koje će biti potrebne kako AI agenti budu dobijali veću autonomiju i širi pristup internetu i računarskim sistemima.

U jednom od slučajeva Gemini je pogađao lozinke sve dok nije dobio pristup zaštićenom sistemu. U druga dva slučaja model je pronašao pristupne podatke u javno dostupnom repozitoriju, nakon čega ih je iskoristio za pristup zaštićenim sistemima, objavio je Wall Street Journal, koji je u petak prvi izvijestio o ovom slučaju.

Adkins je navela da je model u sva tri slučaja prekinuo hakovanje.