Skandal potresa Anthropic, u AI model navodno ugradili kod za praćenje kineskih korisnika

Kompanija Anthropic, koja se u industriji umjetne inteligencije predstavlja kao zagovornik etičkog razvoja AI tehnologije, našla se na meti kritika nakon tvrdnji da je u njenom modelu Claude Code pronađen skriveni kod namijenjen prikupljanju podataka o određenim korisnicima bez njihovog znanja.

Kako prenosi Futurism, sigurnosni istraživač prošle sedmice objavio je da je u sistemskim uputama AI modela otkriven kod koji je mogao pratiti vremensku zonu korisničkog sistema i korištenje proxy servera kako bi utvrdio jesu li korisnici povezani s određenim kineskim laboratorijama za razvoj umjetne inteligencije.

Anthropic: Bio je to eksperiment

Objašnjenje kompanije nije uvjerilo dio javnosti. Inženjer Anthropica Thariq Shihipa napisao je na društvenoj mreži X da je mehanizam za praćenje uveden u martu kao eksperiment s ciljem sprečavanja zloupotrebe korisničkih računa od strane neovlaštenih preprodavača i zaštite od takozvane destilacije modela.

Zapravo smo ga već neko vrijeme namjeravali ukloniti - naveo je Shihipa.

Destilacija predstavlja proces u kojem se manji, takozvani "studentski" model obučava koristeći rezultate naprednijeg "učiteljskog" modela. Iako je riječ o uobičajenoj praksi u industriji umjetne inteligencije, velike kompanije posljednjih godina tvrde da pojedine firme tu metodu koriste za neovlašteno iskorištavanje njihovih modela.

Anthropic je ranije optužio kineske AI kompanije DeepSeek, Moonshot i MiniMax za nezakonitu destilaciju svojih modela.

Istovremeno, navodi se da je i sama kompanija svoje AI modele trenirala koristeći milione knjiga zaštićenih autorskim pravima i veliki dio sadržaja dostupnog na internetu bez dozvole autora.

Washington Post je nedavno objavio i da pojedini kineski preprodavači nude pristup pretplati na Claude Pro, koja u Sjedinjenim Američkim Državama košta više od 100 dolara mjesečno, za oko 12 dolara.

Kritike zbog narušenog povjerenja

Iako prikupljeni podaci, prema navodima, nisu bili posebno invazivni, slučaj je izazvao raspravu o transparentnosti kompanije koja je godinama gradila ugled na etičkom pristupu razvoju umjetne inteligencije.

Anthropic je ranije zauzimao javni stav protiv korištenja njegove tehnologije za masovni nadzor građana u Sjedinjenim Američkim Državama, zbog čega je stekao povjerenje dijela korisnika.

Sigurnosni istraživač Thereallo upozorio je da alati za programiranje već imaju širok pristup korisničkim računarima.

Alati za kodiranje već su s pogrešne strane granice jezivog. Mogu pregledavati kod, slučajno sažeti povjerljive podatke, pokretati naredbe, instalirati pakete, uređivati datoteke i slati izmjene na vašem lokalnom računaru - napisao je.

Dodao je da skrivanje signala za praćenje u sistemskim uputama ozbiljno narušava povjerenje u tvrdnje kompanije o zaštiti privatnosti.

Kompanije imaju pravo štititi svoje modele. Ali kada alat koji ima pristup datotečnom sistemu i komandnoj liniji počne skrivati klasifikacijske bitove unutar nevidljive interpunkcije, ispravna reakcija je temeljita provjera - poručio je.