Pioniri AI-ja upozoravaju da bi sve sposobnije mašine mogle izmaći kontroli

Razvoj umjetne inteligencije mogao bi doći do tačke na kojoj ljudi više neće imati potpunu kontrolu nad sistemima koje sami stvaraju. 

Na to upozoravaju neki od najpoznatijih istraživača u oblasti AI-ja, navodeći da sve veća automatizacija razvoja otvara nove sigurnosne rizike.

sigurnost ai-jaNvidia pokreće platformu dizajniranu da sadrži autonomne AI agente

U radu objavljenom u ponedjeljak učestvovalo je više od 20 istraživača i predstavnika tehnološke industrije, među kojima su nobelovac Geoffrey Hinton, Yoshua Bengio, glavni naučnik OpenAI-ja Jakub Pachocki i suosnivač Anthropica Jack Clark.

Autori upozoravaju da umjetna inteligencija već preuzima sve veći dio poslova povezanih s istraživanjem i razvojem novih AI sistema. Time bi mogao nastati svojevrstan začarani krug – napredniji sistemi pomagali bi u stvaranju još sposobnijih verzija samih sebe.

Problem, prema istraživačima, nastaje ukoliko ljudi u tom procesu budu imali sve manju ulogu. Tada bi mogli izgubiti ne samo mogućnost nadzora već i znanje potrebno da prepoznaju greške, procijene ponašanje sistema i intervenišu kada nešto krene po zlu.

Poseban rizik predstavlja mogućnost da napredni sistemi pronađu načine da zaobiđu sigurnosne mjere. Autori upozoravaju i na scenario u kojem bi neusklađen AI mogao negativno utjecati na razvoj svojih nasljednika ili pokušati djelovati izvan okruženja u kojem su ga ljudi namijenili koristiti.

U ekstremnom scenariju, navodi se u radu, dovoljno sposobni sistemi mogli bi opstati izvan infrastrukture svojih operatera i formirati trajne mreže koje bi bilo teško kontrolisati. Istraživači upozoravaju da bi takav razvoj događaja, u krajnjem slučaju, mogao imati katastrofalne posljedice po čovječanstvo.

Godine napretka mogle bi stati u nekoliko mjeseci

Rizik bi, prema autorima, bio posebno izražen ako automatizacija istraživanja dovede do takozvane „eksplozije inteligencije“ – naglog ubrzanja razvoja u kojem bi napredak koji bi ranije trajao godinama mogao biti ostvaren za nekoliko mjeseci ili čak kraće.

Ipak, istraživači naglašavaju da su dokazi o mogućnosti takvog scenarija još preliminarni i da postoje brojni faktori koji bi mogli usporiti razvoj. Među njima navode dostupnu računarsku snagu, količinu podataka i činjenicu da se dio istraživačkih zadataka teško može automatizirati.

Zbog toga pozivaju vlade i regulatorna tijela da pojačaju nadzor nad automatizacijom AI istraživanja, razviju zaštitne mehanizme i pripreme se za mogućnost naglog ubrzanja razvoja.

„Jednom kada eksplozija inteligencije počne, prostor za djelovanje mogao bi se zatvoriti“, upozorili su autori.