FATALNE GREŠKE PAMETNE "TRUDI": Veštačka inteligencija ugrađena u medicinske uređaje nije opravdala poverenje
VEŠTAČKA inteligencija, postala je čovečanstvu dobar sluga, ali kako se sve češće pokazuje itekako i zao gospodar.
Foto: pixabay
Pojavili su se, naime, izveštaji o tome da su, sa ulaskom u operacione sale tobož savršenih medicinskih uređaja koji bi trebalo da budu od neslućene pomoći hirurzima, beležene fatalne greške. One se događaju pri operacijama, ali je bilo slučajeva pogrešne identifikacije delova ljudskog tela!
Dok zagovornici reklamiraju novu tehnologiju kao vesnika revolucije u medicini, pristiže, u poplavnom talasu, ogroman broj prijava za povrede pacijenata. Jedan od najvećih skokova u budućnost, dogodio se 2021, podseća Rojters, kad je zdravstveni gigant Džonson i Džonson objavio da je dodao veštačku inteligenciju medicinskom uređaju koji se koristi za lečenje hroničnog sinuzita. Džilj je bio i da naročiti algoritam asistira ORL hirurzima pri složenim intervencijama na sinusima.
Uređaj je bio na tržištu tri godine, kad je Američka agencija na hranu i lekove(FDA) primila sedam nepotvrđenih izveštaja o kvarovima na uređajima i jedno svedočenje o povredi pacijenta. Otkako je veštačka inteligencija dodata u taj uređaj, FDA je dobila najmanje stotinak, doduše još nepotvrđenih, izveštaja o kvarovima i neželjenim događajima.
Većina grešaka, pokazuje da je navigacioni sistem TruDi, pogrešno informisao hirurge o lokaciji njihovih instrumenata dok su ih koristili u glavama pacijenata tokom operacija! Cerebrospinalna tečnost, navodno je curila iz nosa jednog pacijenta, dok je drugom, hirurg greškom probio bazu lobanje. U dva naredna slučaja, ljudi su doživeli moždane udare, pošto im je slučjano povređena glavna arterija.
Slab sluh monitora za srca
FDA je do sada odobrila najmanje 1.357 medicinskih uređaja koji koriste veštačku inteligenciju, što je dvostruko više, nego što je dozvoljeno do 2022. TruDi sistem, nije jedini doveden u ptianje, na spisku je na desetine drugih uređaja poboljšanih AI, uključujući monitor za srce za koji se tvrdi da je prevideo abnormalne otkucaje i ultrazvučni uređaj koji je pogrešno identifikovao delove tela fetusa. Osim toga, stopa povlačenja uređaja zbog nepravilnosti, otkako se u njih ugrađuje AI se udvostručila.
Rojters ističe da izveštaji FDA o ovim uređajima obogaćenim AI, mogu biti nepotpuni i da nisu namenjeni utvrđivanju uzroka medicinskih nezgoda, tako da, pre istrage, neće biti jasno kakvu je ulogu AI mogla da ima u neželjenim događajima. Dve žrtve moždanog udara podnele su tužbe u Teksasu, tvrdeći da je veštačka inteligencija sistema TruDi doprinela njihovim povredama.
- Proizvod je verovatno bio bezbedniji pre integracije promena u softveru kojim je u njega ubačena AI, nego što je to bio posle modifikacije - navodi se u jednoj tužbi.
Niži se primeri koji lede krv u žilama i čine da ljudi izgube poverenje i u lekara a nekmoli u AI. U maju 2013, recimo, hirurg dr Mark Din, koristio je TruDi u operaciji sinusoplastike kad je pacijentkinji Doni Fernihou pukla karotidna arterija. Krv je prskala na sve strane čak i na predstavnika kompanije Aklarent koja proizvodi TruDi, prisutnom na intervenciji. Pacijentkinja je, kako je u tužbi navela, doživela moždani udar. Aklarent je negirao ovu, kao i druge optužbe. Vlasnik kompanije, Integra LajfSajensis, tvrdi da nema dokaza o uzročno-posledničnoj vezi između AI i povreda.
Ono što, međutim, baca drugačije svetlo na sve, jeste činjenica da je Din od 2014, radio kao konsultant za Aklarent i da je tokom decenije, inkasirao više od pola miliona dolara naknada za konsultantske usluge, od čega se najmanje 135.000 dolara odnosilo na TruDi. Din je otpušten, uz obrazloženje da su naknade bile za topli obrok, a ne za konsultacije?!
U međuvremenu, 2021, Aklarent je, uz dozvolu Džefa Hopkinsa, tadašnjeg predsednika kompanije, ugradio nove elemente AI u TruDi, tvrdeći da uređaj sada ima novu jedinstvenu tehnologiju. Uprkos Dinovom upozorenju da postoje problemi koje treba rešiti, Aklarent je snizio bezbednosne standarde da bi ubrzao plasiranje nove tehnologije na tržište i postavio kao cilj samo 80 odsto tačnosti za neke od novih tehnologija pre no što se integrišu u TruDi. Greške su nastavile da se nižu, a njihov intenzitet, dobio je ubrzanje.