Šef Microsoftovog AI-ja upozorio na katastrofalnu prijetnju čovječanstvu

Šef Microsoftovog odjela za umjetnu inteligenciju upozorio je da bi pristup kompanije Anthropic obučavanju njenog AI modela Claude mogao imati "katastrofalan utjecaj na dobrobit čovječanstva".

Mustafa Suleyman izjavio je da njegov konkurent rizikuje stvaranje nečega što bi bilo "nemoguće" kontrolisati jer se prema modelu odnosi kao prema čovjeku. To uključuje i poruke da bi Claude "mogao biti svjestan" te da "zaslužuje samostalnost u djelovanju".

- Ne smijemo nesvjesno doći do odluke zbog koje ćemo kasnije gorko zažaliti, napisao je.

Poruka kritičarimaTrump prozvao AI lidera, poručio da je "pametan predsjednik" dovoljna zaštita

Ovi komentari posljednji su u nizu oštrih upozorenja iz industrije umjetne inteligencije o mogućim opasnostima ove tehnologije.

- Sistemi umjetne inteligencije nisu svjesni, napisao je Suleyman. "Oni ne osjećaju, nemaju iskustva niti pate. Nemaju urođene sklonosti ni vlastite motive."

"To su sistemi za predviđanje i dovršavanje nizova, bez unutrašnjeg života, osmišljeni da slijede upute i ostvaruju ciljeve koje su postavili ljudi."

Oštra kritika

U opširnom eseju Suleyman je pohvalio izvršnog direktora Anthropica Darija Amodeija i njegov tim, opisujući ih kao "promišljene, principijelne i intelektualno poštene ljude", ali je uprkos tome doveo u pitanje pristup njihove kompanije.

Oštro je kritikovao Anthropic zbog toga što svoj AI uči osobinama nalik ljudskim, što je praksa poznata kao antropomorfizacija. Prema njegovim riječima, takav pristup ostavlja utisak da Claude ima vlastite želje, vrijednosti i osjećaj vlastitog identiteta.

Međutim, ustvrdio je da je "svijest biološka" te da "ne postoje dokazi koji bi ukazivali na to da je umjetna inteligencija svjesna".

Osim što je pozvao na raspravu o ovom pitanju, Suleyman je rekao da je potrebna veća transparentnost u pogledu načina na koji se AI sistemi obučavaju i procjenjuju.

To bi, prema njegovim riječima, trebalo uključivati nezavisni nadzor ponašanja sistema umjetne inteligencije i snažnije alate za praćenje i kontrolu ove tehnologije.

Dame Wendy Hall, profesorica računarstva na Univerzitetu Southampton, opisala je njegove komentare kao "vrstu razgovora koji moramo voditi na međunarodnom nivou". To je suprotstavila "histeričnim istupima" pojedinih AI kompanija, za koje je rekla da jedino doprinose tome da se "svi uplaše".

"Dodatni sloj rizika"

Microsoft je u oktobru 2025. godine osnovao vlastiti tim za superinteligenciju, što je Suleyman i sam priznao. Kompanija, baš kao i njen konkurent Anthropic, također radi na razvoju napredne umjetne inteligencije.

Rekao je da je Microsoft u prvom nacrtu svog Humanističkog kodeksa ponašanja za umjetnu inteligenciju predstavio kako kompanija radi na "alternativnom putu" stvaranja "podređene i usklađene umjetne inteligencije čija je jedina svrha služiti čovječanstvu", prenosi BBC.

Usklađivanje je oblast čiji je cilj ugraditi ljudske etičke ideje i principe u umjetnu inteligenciju. Drugim riječima, cilj je osigurati da se AI ponaša u skladu s onim što ljudi smatraju vrijednim.

Suleyman je ukazao na nedavni incident u kojem su OpenAI-jevi AI agenti samostalno djelovali tokom vježbe i hakovali tehnološku platformu Hugging Face, navodeći to kao dokaz zašto se prema umjetnoj inteligenciji ne bi trebalo odnositi kao prema čovjeku.

- Zamislite koliko bi mogli biti opasniji kada bi djelovali pod pretpostavkom da su njihova dobrobit i prava ugroženi, rekao je.

"To svemu dodaje još jedan sloj rizika."