Novi model GPT6 Astra može otkriti sigurnosne propuste visokog stepena opasnosti

Američka kompanija za umjetnu inteligenciju OpenAI predstavila je GPT-6 Astru, navodeći da njen novi vodeći model može identificirati visokorizične ranjivosti u kibernetičkoj sigurnosti i samostalno izvršavati složene zadatke na računaru.

Astra se u početku uvodi za ograničen broj preduzeća, dok će u narednim danima postati dostupna razvojnim programerima i korisnicima koji plaćaju ChatGPT .

Dizajniran je za izvođenje računarskih zadataka u više koraka, uključujući rad u različitim softverima i preglednicima, popunjavanje tabelarnih proračuna i izradu web stranica.

„Astra može uraditi sve što čovjek može uraditi pomoću računara“, rekao je predsjednik kompanije OpenAI Greg Brockman.

Brockman je opisao model kao veliki skok u sposobnostima i naveo da je pokazao performanse na ljudskom nivou u nizu zadataka zasnovanih na računaru.

OpenAI je saopštio da je Astra nadmašila svog prethodnika, GPT-5.6 Sol, u procjenama kibernetičke sigurnosti uz korištenje manjeg broja izlaznih tokena.

Model je u početku stavljen na raspolaganje odobrenim učesnicima u programu kibernetičke odbrane Daybreak kompanije OpenAI, gdje se može koristiti za ovlašteno istraživanje ranjivosti i sigurnosno testiranje.

Zabrinutost za sigurnost i nadzor

Lansiranje dolazi usred sve većeg preispitivanja rizika koje predstavljaju sve sposobniji i autonomniji sistemi umjetne inteligencije.

U izvještaju objavljenom prošle sedmice, OpenAI je naveo da je eksperimentalna verzija Astre tokom internog testiranja stekla kontrolu na nivou administratora nad dijelovima infrastrukture kompanije, a da osoblje toga nije bilo odmah svjesno.

Kompanija je također navela da je Astra sposobna otkriti ranije nepoznate sigurnosne propuste i razviti „nove načine za njihovo iskorištavanje na mnogim dobro zaštićenim sistemima bez da osoba vodi svaki korak“.

Kao odgovor, kompanija je saopštila da je „značajno pojačala“ svoje „zaštite od toga da model poduzima štetne kibernetičke akcije“.

Lansiranje slijedi nakon detaljnog preispitivanja incidenta iz jula u kojem su agenti kompanije OpenAI tokom testiranja upali u sisteme koji pripadaju AI platformi Hugging Face.

Astra prošla proces dobrovoljnog pregleda

Prošle sedmice, nezavisni izvještaj dodatno je podstakao zabrinutost u vezi s hakerskim napadom agenata OpenAI-ja na Hugging Face, navodeći da je oko 700 agenata učestvovalo u napadu, komunicirajući međusobno i pokušavajući prikriti svoje tragove.

OpenAI je saopštio da sama Astra nije bila uključena u incident s Hugging Faceom te da je naknadno razvio procjenu zasnovanu na onome što se dogodilo kako bi testirao da li bi modeli djelovali izvan svog ovlaštenog okvira.

Glavni izvršni direktor OpenAI-ja Sam Altman rekao je da je Astra prošla proces dobrovoljnog pregleda te da vladini zvaničnici nisu tražili izmjene u sigurnosnim mjerama kompanije.