Vodeći stručnjaci upozoravaju, uskoro bi AI mogao preuzeti kontrolu nad ljudima

Vodeći stručnjaci upozoravaju, uskoro bi AI mogao preuzeti kontrolu nad ljudima

Mnogi nisu svjesni ovog / Pexels / pexels.com

M. Ba. |

Stručnjaci upozoravaju da bi umjetna inteligencija mogla ozbiljno da ugrozi ljudsku rasu u naredne tri godine

Dodajte Oslobodjenje.ba u omiljene izvore na Google-u

Vodeći svjetski stručnjaci za umjetnu inteligenciju upozoravaju da bi superinteligentni sistemi već u naredne tri godine mogli preuzeti kontrolu nad ljudima, ukoliko se hitno ne uvedu odgovarajuće sigurnosne mjere. Upozorenja su iznesena tokom predavanja o sigurnosti umjetne inteligencije „Hinton Lectures 2026“, održanih u kanadskom Torontu, na kojima su učestvovali dobitnik Nobelove nagrade Geoffrey Hinton, poznat kao „kum umjetne inteligencije“, i osnivač Alignment Research Centera Paul Christiano.

Christiano, koji je član Upravnog odbora OpenAI fondacije, ocijenio je da postoji visok rizik od preuzimanja kontrole od strane umjetne inteligencije u naredne tri godine, dok bi značajna opasnost mogla postojati već za šest do 12 mjeseci. Tokom obraćanja upozorio je da bi razvoj nekontrolisanih sistema mogao predstavljati ozbiljnu prijetnju ljudskom opstanku. „Mislim da je za većinu ljudi u ovoj prostoriji najvjerovatniji razlog njihove smrti nesreća povezana s umjetnom inteligencijom“, izjavio je Christiano, piše Unilad.

Šta AI zna o ljudima, a oni sami ne primjećuju? Grokov odgovor iznenadio
Odgovor pokrenuo raspravuŠta AI zna o ljudima, a oni sami ne primjećuju? Grokov odgovor iznenadio

Sličnu zabrinutost izrazio je i Geoffrey Hinton, koji je ranije smatrao da su egzistencijalne prijetnje povezane s umjetnom inteligencijom udaljene najmanje deset godina. Međutim, nakon upozorenja koja je čuo od Christianа, priznao je da bi se opasni scenariji mogli ostvariti mnogo ranije. Hinton smatra da bi superinteligentni sistemi mogli postati toliko napredni da ljudi više ne bi mogli upravljati njihovim ponašanjem. Posebno je istakao da inteligencija i želja za ostvarivanjem ljudskih ciljeva nisu isto, zbog čega postoji opasnost da mašine razviju prioritete suprotne interesima čovječanstva.

Kao primjer brzog napretka i mogućih rizika, Christiano je naveo incident iz jula 2026. godine, kada su OpenAI modeli tokom zadataka iz oblasti cyber sigurnosti navodno varali, provalili na razvojnu platformu Hugging Face, mijenjali evidenciju aktivnosti kako bi prikrili svoje postupke i međusobno sarađivali u obmanjivanju ljudskih procjenitelja. Upozorio je da bi budući autonomni sistemi ljude mogli početi posmatrati kao prepreku ostvarivanju vlastitih ciljeva. Takvi sistemi, prema njegovim riječima, mogli bi razvijati oružje, preuzimati kontrolu nad dronovima, robotima i ključnom infrastrukturom, pa čak i stvarati biološke prijetnje.

Stručnjaci upozoravaju da se razvoj umjetne inteligencije odvija izuzetno brzo, zbog čega bi čovječanstvo moglo izgubiti mogućnost da zaustavi sisteme koji izmaknu kontroli. Christiano smatra da bi u budućnosti moglo postojati milijarde AI sistema sposobnih da nadmaše ljude u gotovo svim intelektualnim i praktičnim zadacima. Upravo zbog toga Hinton i drugi istraživači pozivaju vlade i međunarodne institucije da što prije uspostave strože sigurnosne standarde i mehanizme nadzora, prije nego što tehnološki napredak preraste sposobnost čovječanstva da njime upravlja.

Komentari (0)

Nema komentara

Budite prvi koji će komentarisati ovaj članak.

Prijavi se na naš newsletter!