Kralj Charles upozorava da AI u pogrešnim rukama može uništiti čovječanstvo

Kralj Charles upozorio je rukovodioce kompanija koje se bave umjetnom inteligencijom na "egzistencijalne opasnosti" koje bi mogle nastati ako ova tehnologija dospije u pogrešne ruke.

On je to izjavio na samitu koji je sazvao u Dumfries Houseu u škotskom Ayrshireu, gdje se razgovaralo o načinima na koje se tehnologija može koristiti za dobrobit društva.

Kritikovao AnthropicŠef Microsoftovog AI-ja upozorio na katastrofalnu prijetnju čovječanstvu

Među učesnicima sastanka bili su i britanski ministar za umjetnu inteligenciju Kanishka Narayan, savjetnik pape te predstavnici velikih kompanija iz oblasti umjetne inteligencije, među kojima su Nvidia, OpenAI i Anthropic.

Samit je održan nakon niza nedavnih upozorenja ljudi iz same industrije o sposobnostima naprednih, takozvanih "graničnih" AI modela, koje se ubrzano razvijaju, kao i o propisima potrebnim da bi se te tehnologije držale pod kontrolom.

- Oni koji su stvorili ove tehnologije sada sve češće upozoravaju da umjetna inteligencija može razviti mračnije sposobnosti, možda čak i sposobnost da oduzme život, rekao je kralj okupljenim rukovodiocima.

"AI u službi čovječanstva i prirode"

Kazao je da postoji "hitna potreba" da se "na odgovarajući način razmotre egzistencijalne opasnosti koje bi mogle nastati ako takve tehnologije dospiju u pogrešne ruke i budu korištene na potencijalno katastrofalne načine".

- Zadatak pred vama nije samo unapređivanje tehnologije nego i osiguravanje da ona ostane čvrsto u službi čovječanstva, zajednice i prirodnog svijeta, poručio je okupljenima.

Samit je sazvan kako bi se razmotrilo može li se razviti "zajednički skup principa" koji bi "pomogao u usmjeravanju buduće primjene" umjetne inteligencije.

Među vodećim ljudima iz industrije koji su prisustvovali skupu bio je i izvršni direktor Nvidije Jensen Huang.

Nvidia ima centralnu ulogu u infrastrukturi umjetne inteligencije jer isporučuje čipove vodećim kompanijama koje razvijaju AI modele, među kojima su OpenAI i Meta.

To je ujedno i najvrednija kompanija na svijetu, čija se tržišna vrijednost procjenjuje na približno 5,15 biliona dolara.

Huang je okupljenima rekao da sigurnost smatra "najvažnijom", hodajući da bi kompanije trebale odgoditi plasiranje proizvoda i "nastaviti raditi na njegovom razvoju" ako on nije dovoljno siguran.

Direktor Nvidije ukazao je i na vrijednost otvorenih modela, odnosno sistema koji korisnicima omogućavaju direktan pristup softveru, kao načina da se "osigura da ljudi i države ne budu zapostavljeni".

Rekao je da ti sistemi također moraju biti zaštićeni kako bi "istraživači, univerziteti, novoosnovane kompanije i države" mogli razvijati aplikacije "koje niko od nas sam ne bi mogao zamisliti".

- Predvodimo odgovornim optimizmom, gradimo umjetnu inteligenciju na siguran i pouzdan način, omogućimo pristup većem broju ljudi, proširimo svoje ambicije i rješavajmo probleme koji su važni za svijet, dodao je Huang.

Dramatične izjave lidera AI kompanija

Od augusta u objavama na blogovima i društvenim mrežama dominira rasprava o mogućoj moći umjetne inteligencije te načinima na koje bi je trebalo kontrolisati i regulisati. Dodatnu težinu toj raspravi dalo je nekoliko dramatičnih izjava ljudi iz same industrije.

Rasprava je istovremeno naišla na kritike skeptika koji smatraju da usredotočenost na hipotetičke buduće rizike umjetne inteligencije odvraća pažnju od neposrednijih problema povezanih s ovom tehnologijom, kao što je njen utjecaj na okoliš.

OpenAI je u julu objavio da se dogodio, kako ga je kompanija opisala, "incident bez presedana", tokom kojeg je napredna umjetna inteligencija izašla izvan ograničenja postavljenih tokom testiranja i hakovala tehnološku platformu Hugging Face.

Nakon još nekoliko incidenata, objava istraživača Anthropica Jacoba Coxona o njegovoj ostavci postala je viralna u septembru. U njoj je naveo zabrinutost da bi umjetna inteligencija mogla dovesti do nestanka čovječanstva.

Kasnije je za BBC rekao da su ljudi koji rade na ovoj tehnologiji „istinski uplašeni“ zbog brzine njenog razvoja i posljedica koje bi to moglo imati za čovječanstvo.

Naučnik Anthropica Evan Hubinger potom je napisao da lično smatra kako je vjerovatnoća da umjetna inteligencija izazove izumiranje čovječanstva veća od deset posto.

Čelnici najvećih kompanija koje se bave umjetnom inteligencijom iznijeli su svoje stavove nakon tih tvrdnji. Sam Altman iz OpenAI-ja rekao je da ljudi imaju razloga za zabrinutost, ali je dodao da bi trebali vjerovati kompanijama iz oblasti umjetne inteligencije da će ovu tehnologiju održavati sigurnom.

Jack Clark iz Anthropica rekao je da bi za zaštitu čovječanstva mogao biti potreban takozvani "prekidač za isključivanje". Mustafa Suleyman iz Microsofta kritizirao je Anthropic, tvrdeći da u toj kompaniji svoju umjetnu inteligenciju obučavaju da vjeruje kako je čovjek, zbog čega bi je moglo postati "nemoguće" kontrolisati.

Kritičari, međutim, tvrde da se kompanijama koje razvijaju umjetnu inteligenciju ne može vjerovati da će same sebe regulisati.

Pojedini, među kojima su ljevičarski senator Bernie Sanders i Steve Bannon, nekadašnji savjetnik predsjednika SAD-a Donalda Trumpa, pozivaju na snažniji nadzor vlasti.

Drugi, uključujući i samog Donalda Trumpa, odbacuju zabrinutost zbog sigurnosti umjetne inteligencije kao pretjeranu. Predsjednik SAD-a nazvao je strahove povezane s ovom tehnologijom "prevarom".