Sam Altman: Davanje vjerskog autoriteta umjetnoj inteligenciji može biti problem

Izvršni direktor OpenAI-ja Sam Altman upozorio je na rizike koji bi mogli nastati ukoliko ljudi umjetnoj inteligenciji počnu pripisivati vjerski autoritet ili joj prepustiti donošenje odluka koje bi trebale ostati u domenu ljudskog prosuđivanja.

NOVA INICIJATIVA BIJELE KUĆETrump formirao „Super inteligentne snage“ za koordinaciju američke AI politike

Altman je na društvenoj mreži X poručio da mu je posebno problematično kada ljudi pokušavaju umjetnoj inteligenciji pripisati vjersku ulogu ili joj prepustiti ljudsko prosuđivanje, ocijenivši da takva praksa predstavlja ozbiljan sigurnosni rizik.

Njegova reakcija uslijedila je nakon izvještaja o aktivnostima kompanije Anthropic, koja je održavala privatne razgovore s vjerskim i filozofskim misliocima o pitanjima svijesti i morala naprednih sistema umjetne inteligencije.

Prema pisanju The New York Timesa, među temama razgovora bilo je i pitanje da li bi sistemi poput Anthropicovog Claudea jednog dana mogli razviti oblik svijesti, kao i na koji način filozofska i vjerska razmišljanja mogu pomoći u razumijevanju njihovog ponašanja.

Anthropic se, između ostalog, bavi i konceptom „dobrobiti modela“, odnosno pitanjem da li bi napredni AI sistemi mogli imati određena iskustva koja bi zahtijevala moralno razmatranje.

Ideja da umjetna inteligencija jednog dana može pokazivati osobine koje ljudi povezuju sa sviješću izaziva rasprave i među drugim tehnološkim liderima.

Mustafa Suleyman, izvršni direktor Microsoft AI-ja, ranije je upozoravao na rizike razvoja sistema koji ostavljaju utisak da imaju vlastita subjektivna iskustva. Prema njegovom mišljenju, uvjeravanje ljudi da AI sistemi zaista imaju svijest moglo bi otvoriti potpuno nove sigurnosne i društvene probleme.

Suleyman zagovara pristup koji naziva „Humanistička AI“, prema kojem bi umjetna inteligencija trebala ostati alat razvijen da služi ljudima, a ne sistem kojem se pripisuju vlastiti interesi, prava ili status subjekta.

Rasprava tako sve više izlazi iz okvira pitanja koliko će umjetna inteligencija biti sposobna i ulazi u mnogo složenije područje – kako bi ljudi trebali postupati prema sistemima koji bi jednog dana mogli pokazivati karakteristike nalik svijesti.