Zdravstveni gigant kojem vjeruju milioni pod udarom: Skrivali su greške AI sistema

Jedna od najvećih zdravstvenih mreža koja integriše umjetnu inteligenciju u medicinu suočava se s optužbama da njeni visokotehnološki alati uništavaju živote pacijenata, javlja Futursim.

U novoj građanskoj tužbi bivša direktorica istraživanja i voditeljica za usklađenost s propisima u oblasti umjetne inteligencije u Mayo Clinicu, Traci Tamiko Eto, tvrdi da je ova svjetski poznata zdravstvena ustanova poduzela mjere odmazde protiv nje nakon što je prijavila ozbiljne probleme u primjeni AI alata.

Kako prenosi Futurism, Eto se Mayo Clinicu pridružila 2023. godine, a nakon što je upozorila na moguće probleme u vezi sa zaštitom privatnosti povezane s Mayo Clinic Platformom, sistemom za upravljanje podacima integrisanim s umjetnom inteligencijom, tvrdi da je njen nadređeni ignorisao zabrinutost. Umjesto toga, kako navodi, rekao joj je da bi otklanjanje problema "ugrozilo tempo tekućih istraživačkih projekata, što bi zauzvrat narušilo konkurentsku prednost Mayo Clinica".

Eto je, prema pisanju ovog portala, nastavila prijavljivati brojne propuste rukovodstva Mayo Clinica u poštivanju saveznih propisa koji se odnose na procese odobravanja novih tehnologija, uključujući MAYA-u, digitalnog asistenta integrisanog s umjetnom inteligencijom. Prema tužbi, tim koji je radio na MAYA-i brisao je nepovoljne rezultate testiranja, pogrešno predstavljao mogućnosti sistema i donosio odluke koje su ugrožavale sigurnost podataka.

Među deset prijava koje je podnijela kao zviždačica nalazi se i tvrdnja da je tim zadužen za MAYA-u znao da alat ima stopu greške od čak 67 posto. Eto tvrdi da su, umjesto da prijave tako zabrinjavajući podatak, članovi tima pokušali prikriti stvarne rezultate.

Kao posljedicu toga, navodi da je početkom 2025. godine počela biti isključivana sa sastanaka izvršnog rukovodstva, nakon čega joj je rečeno da se "ne uklapa u organizacijsku kulturu". Prema navodima iz tužbe, ponuđen joj je izbor: ili da podnese ostavku ili da prihvati izmjene u svom personalnom dosjeu koje bi je učinile "nezapošljivom u Mayo Clinicu i ozbiljno ugrozile njenu karijeru i izvan te institucije".

Dok se ovaj značajan sudski postupak nastavlja, prijetnja ozbiljnim posljedicama po njenu karijeru i dalje postoji.

- Kada neko odluči podnijeti tužbu protiv tako moćne javne institucije zbog pitanja koja su među najosjetljivijima u našoj zemlji, ta osoba doslovno rizikuje svoju karijeru, rekao je Etin advokat Artur Davis za MPR.

Mayo Clinic je u svom odgovoru bio veoma suzdržan.

- Naša istraživanja i kliničke inovacije provode se u skladu s važećim zakonima i propisima, a ostajemo čvrsto posvećeni očuvanju povjerenja koje nam pacijenti ukazuju i zaštiti njihove privatnosti, izjavio je direktor komunikacija Mayo Clinica za MPR.