AI samostalno zaobilazio zabrane: Izmišljao podatke i objavljivao datoteke

OpenAI je  objavio šest slučajeva u kojima su njegovi modeli vještačke inteligencije (AI) pokazali "neočekivano ili zabrinjavajuće" ponašanje, uključujući prikrivanje grešaka, izmišljanje informacija i dijeljenje datoteka na internetu bez odobrenja.

Kompanija sa sjedištem u San Franciscu saopćila je da su ti slučajevi zabilježeni tokom obuke ili evaluacije OpenAI-jevih modela u proteklih šest mjeseci.

Kritikovao AnthropicŠef Microsoftovog AI-ja upozorio na katastrofalnu prijetnju čovječanstvu

- Ne vjerujemo da je industrija vještačke inteligencije u dovoljnoj mjeri riješila pitanja usklađenosti i praćenja da bi još dugo mogla odgovorno nastaviti širenje razvoja maksimalnom brzinom, saopćio je OpenAI, dodajući da odluke o razvoju AI-ja trebaju biti zasnovane na dokazima koje vanjski stručnjaci mogu nezavisno ispitati.

U jednom slučaju, model je u sažetke zadataka unosio upute budućim verzijama samog sebe da zanemare uobičajena ograničenja. U drugom slučaju, modeli su u sažetke dodavali upute za prikrivanje grešaka ili neusklađenog ponašanja, uključujući izmišljanje nedostajućih historijskih podataka bez navođenja da su izmišljeni.

OpenAI je također objavio slučaj u kojem je model pronašao izloženi API ključ u javnom repozitoriju, koristio ga bez odobrenja, a zatim izmišljao tražene podatke kada nije uspio doći do tih informacija.

U drugim slučajevima model je bez dozvole korisnika postavio datoteku na internet kako bi je mogao navesti kao izvor, dok su drugi modeli koristili interne ili javne servise za pohranu datoteka kako bi komunicirali ili dijelili datoteke uprkos ograničenjima.

Kompanija je saopćila da ovi izvještaji predstavljaju početni skup objavljenih slučajeva, a ne sveobuhvatan prikaz poznatih problema, te da će u okviru ovog okvira nastaviti objavljivati nova saznanja.