Googleovi stručnjaci daju otkaze zbog AI-ja: Ne žele učestvovati u ratovima

Nekoliko zaposlenika Googleove AI kompanije DeepMind napušta firmu zbog zabrinutosti da se tehnologija sve više koristi u vojnim operacijama, a posebno ih brinu saradnja s američkom i izraelskom vojskom te nedostatak ljudskog nadzora nad sistemima koji mogu utjecati na odluke na bojnom polju.

Sofia Liguori, istraživačka inženjerka iz Londona, ove sedmice dala je otkaz nakon tri godine rada u Google DeepMindu. 

U razgovoru za BBC kazala je da je sve veća uključenost kompanije u razvoj umjetne inteligencije za vojne potrebe utjecala na njeno povjerenje u poslodavca.

Kiss the Future AI SummitUmjetna inteligencija nam ne stiže, ona je tu

- Kada shvatim da moja kompanija sve više gura AI sisteme u vojne operacije, osjećam sram što radim u Googleu, rekla je Liguori.

Istaiknula je da se ne slaže s takvim smjerom razvoja kompanije i da smatra kako se time udaljava od vlastitih etičkih principa.

Zabrinutost zbog odluka na bojnom polju

Liguori nije jedina koja je odlučila otići. Istraživač umjetne inteligencije Andreas Kirsch također je napustio Google DeepMind, upozoravajući da kompanija nema dovoljno snažne mehanizme nadzora kako bi osigurala sigurnu i odgovornu primjenu AI tehnologije u vojnim i povjerljivim operacijama.

Prema njegovim riječima, Google nema dovoljno kontrole nad načinom na koji Pentagon koristi njegove modele, niti ima potpun uvid u njihovu primjenu.

Zabrinutost dolazi u trenutku kada američko Ministarstvo odbrane ubrzava uvođenje umjetne inteligencije u vojsku. Američki ministar odbrane Pete Hegseth najavio je da administracija Donalda Trumpa želi izgraditi vojsku koja će se prvenstveno oslanjati na AI tehnologiju.

Google je ranije ove godine potpisao ugovor koji omogućava korištenje njegovih AI modela u povjerljivim vojnim poslovima. Slične sporazume s američkom vojskom sklopili su i OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia i druge kompanije.

Ugovor Googlea s Pentagonom predviđa da se tehnologija može koristiti za zakonite potrebe američke vlade, ali navodi da se ne bi trebala koristiti za masovni nadzor stanovništva u SAD-u ili autonomno oružje bez odgovarajućeg ljudskog nadzora i kontrole.

Ipak, kritičari upozoravaju da je u praksi teško osigurati da ljudi zaista mogu provjeriti odluke koje AI sistemi donose velikom brzinom.

Sarah Shoker, bivša šefica tima za geopolitiku u OpenAI-ju, upozorila je da umjetna inteligencija skraćuje vrijeme koje operateri imaju za donošenje odluka.

- Kada AI odabere stotine potencijalnih meta, a ljudima ostane malo vremena da provjere rezultate, gotovo je nemoguće kvalitetno pregledati svaki prijedlog i uočiti eventualne greške, smatra Shoker.

Zaposlenici strahuju od posljedica

Dio zaposlenika Googlea navodi da se plaši javno govoriti o vojnoj upotrebi umjetne inteligencije zbog ugovornih odredbi koje ograničavaju njihovo pravo da kritikuju kompaniju.

Liguori tvrdi da su zaposlenici zabrinuti zbog mogućih posljedica po karijeru, dok pojedini radnici DeepMinda smatraju da bi nezadovoljstvo moglo dovesti do odlaska još većeg broja ljudi koji su se kompaniji pridružili zbog njenih prvobitnih ciljeva.

Google se suočio s kritikama i zbog saradnje s Amazonom na projektu Nimbus, vrijednom 1,2 milijarde dolara, koji izraelskoj vladi i vojsci osigurava usluge računarstva u oblaku i AI tehnologiju. Kompanija je ranije navela da taj projekt nije namijenjen visoko osjetljivim vojnim poslovima povezanim s oružjem ili obavještajnim službama.

Iz Googlea su za BBC poručili da sarađuju s javnim institucijama širom svijeta te da ugovore provjeravaju u skladu s pravilima o prihvatljivoj upotrebi tehnologije i vlastitim principima umjetne inteligencije. Dodali su da zaposlenici imaju kanale putem kojih mogu prijaviti zabrinutost, uz pravila koja zabranjuju odmazdu.

Kirsch, međutim, smatra da postojeći AI modeli još nisu dovoljno pouzdani za upotrebu na bojnom polju.

- Trenutni AI modeli nisu dovoljno robusni, a mislim i da nisu obučeni za takve zadatke, upozorio je bivši zaposlenik Googlea.