Sigurnosna agencija: Ne objavljujte slike djece, AI ih pretvara u pedofilski sadržaj

Britanska agencija za borbu protiv kriminala (NCA) upozorila je roditelje da ne objavljuju fotografije djece na internetu jer ih se pomoću umjetne inteligencije (AI) može pretvoriti u pornografski materijal.

NCA i Zaklada za nadzor interneta (IWF) objavili su nove smjernice za zaštitu djece od sve češće pojave korištenja AI-a za izradu pedofilskog sadržaja.

Do toga je došlo nakon što je jedna škola u Britaniji bila meta kriminalnih skupina koje su iskoristile javno dostupne fotografije učenika kako bi pomoću AI-a stvorile pornografski materijal, a zatim prijetile da će ga objaviti ako im se ne plati.

Analitičari IWF-a otkrili su u 2025. godini čak 3400 video snimaka generisanih AI-om, što predstavlja ogroman rast u odnosu na svega 13 koliko ih je evidentirano u 2024. godini.

"Prijetnja je uznemirujuća", rekao je izvršni direktor IWF-a Kerry Smith.

NAUKAUmjetna inteligencija kao ekološki teret

"Ne govorimo o tome da fotografije djece ne bi trebalo dijeliti s ljudima koje volite i kojima vjerujete, nego želimo da ljudi budu svjesni potencijalnih rizika i da donose informisane odluke imajući na umu sve činjenice", dodao je.

Smith upozorava da posljedice takvih fotografija mogu biti razorne.

"Šteta je vrlo stvarna. Potencijal za dugoročne posljedice nešto je što, vjerujem, svaki roditelj želi spriječiti", poručio je.

Pedofilski sadržaj s napretkom tehnologije postaje sve rašireniji i realističniji, upozorile su organizacije, a fotografije i video snimci pritom su sve nasilniji. Tako je 65 posto od 3443 umjetno generisana videa u 2025. godini klasifikovano u kategoriju A prema britanskom krivičnom zakonu, što znači da prikazuju najteža krivična djela poput silovanja i seksualnog mučenja.

Nove smjernice savjetuju roditeljima da na društvenim mrežama otvore zatvorene grupe, u kojima bi dijelili fotografije svoje djece, ili da prilagode postavke privatnosti kako bi ih mogao vidjeti samo ograničen broj osoba.

IWF je također pozvao tehnološke kompanije da dobro zaštite svoje AI modele prije nego što ih ponude korisnicima, kako ih kriminalci ne bi mogli zloupotrijebiti za proizvodnju pedofilskog sadržaja.