Medicinski deepfakes: Teški napad na zdravstvo

• Autor:
• ime autora

  Quantumrun Foresight
• Lipnja 14, 2023

Uvid ističe

Medicinske duboke krivotvorine mogu dovesti do nepotrebnih ili pogrešnih tretmana, uzrokujući financijske gubitke i potencijalne smrtne slučajeve. Oni narušavaju povjerenje pacijenata u medicinski sektor, što dovodi do oklijevanja u traženju skrbi i korištenju telemedicine. Medicinske lažne krivotvorine također predstavljaju prijetnju cyber ratovanja, ometajući zdravstvene sustave i destabilizirajući vlade ili gospodarstva.

Medicinski deepfakes kontekst

Deepfakeovi su digitalne izmjene osmišljene kako bi nekoga prevarile da misli da su autentične. U zdravstvu, medicinska lažna lažiranja uključuju manipuliranje dijagnostičkim slikama kako bi se lažno umetnuli ili izbrisali tumori ili druga medicinska stanja. Kibernetički kriminalci neprestano inoviraju nove metode pokretanja medicinskih deepfake napada, s ciljem ometanja rada bolnica i dijagnostičkih ustanova.

Manipulirani napadi slikanjem, kao što je umetanje lažnih tumora, mogu dovesti do toga da pacijenti budu podvrgnuti nepotrebnim tretmanima i iscrpiti milijune dolara u bolničkim resursima. Nasuprot tome, eliminacija stvarnog tumora sa slike može uskratiti potrebno liječenje pacijenta, pogoršati njegovo stanje i potencijalno rezultirati smrtnim ishodom. S obzirom na to da se u SAD-u godišnje provede 80 milijuna CT skeniranja, prema studiji iz 2022. o medicinskom dubokom otkrivanju krivotvorina, takve prijevarne taktike mogu služiti politički ili financijski motiviranim planovima, kao što je prijevara osiguranja. Kao takav, razvoj robusnih i pouzdanih strategija za otkrivanje i prepoznavanje promjena slike je od ključne važnosti.

Dvije česte metode petljanja slike uključuju kopiranje-premještanje i spajanje slike. Kopiranje-premještanje uključuje preklapanje neciljanog područja na ciljano područje, učinkovito skrivajući dio od interesa. Osim toga, ova metoda može umnožiti ciljnu regiju, preuveličavajući prevalenciju zanimljivih mjesta. U međuvremenu, spajanje slike slijedi postupak sličan kopiranju-premještanju, osim što duplicirano područje interesa dolazi iz zasebne slike. S porastom strojeva i tehnika dubokog učenja, napadači sada mogu učiti iz golemih baza podataka slika pomoću alata poput generativnih protivničkih mreža (GAN) koji se obično koriste u izmišljenim videozapisima.

Razarajući učinak

Ove digitalne manipulacije mogle bi značajno potkopati pouzdanost i integritet dijagnostičkih procesa. Ovaj bi trend u konačnici mogao značajno povećati troškove zdravstvene skrbi zbog mogućih pravnih naknada povezanih s tužbama zbog nesavjesnog liječenja. Nadalje, zlouporaba medicinskih deepfakeova za prijevare u osiguranju mogla bi pridonijeti ekonomskom teretu za zdravstvene sustave, osiguravatelje i, u konačnici, pacijente.

Osim financijskih implikacija, medicinski deepfake također ozbiljno prijete povjerenju pacijenata u medicinski sektor. Povjerenje je kamen temeljac učinkovitog pružanja zdravstvene skrbi, a svako narušavanje tog povjerenja moglo bi dovesti do toga da pacijenti oklijevaju ili izbjegavaju potrebnu medicinsku skrb zbog straha da će biti prevareni. U globalnim zdravstvenim krizama poput pandemija, ovo nepovjerenje može rezultirati milijunima smrti, uključujući odbijanje liječenja i cjepiva. Strah od deepfakeova također bi mogao obeshrabriti pacijente od sudjelovanja u telemedicini i digitalnim zdravstvenim uslugama, koje su postale sve važnije u modernoj zdravstvenoj skrbi.

Štoviše, ne može se podcijeniti potencijalna upotreba medicinskih deepfakeova kao alata za sabotažu u cyber ratovanju. Ciljanjem i ometanjem bolničkih sustava i dijagnostičkih centara, protivnici bi mogli stvoriti kaos, nanijeti fizičku štetu mnogim ljudima i uliti strah i nepovjerenje u stanovništvo. Takvi kibernetički napadi mogli bi biti dio širih strategija za destabilizaciju vlada ili gospodarstava. Stoga infrastruktura nacionalne sigurnosti i javnog zdravstva treba proaktivno razvijati strategije za otkrivanje i sprječavanje ovih potencijalnih prijetnji. 

Implikacije medicinskih dubokih lažiranja

Šire implikacije medicinskih lažnih lažiranja mogu uključivati: 

• Povećane medicinske dezinformacije i potencijalno štetna samodijagnoza dovode do pogoršanja epidemija i pandemija.
• Značajni financijski gubici za farmaceutske tvrtke i proizvođače medicinskih uređaja jer dezinformacije i oklijevanje uzrokuju istek roka trajanja ili zlouporabu njihovih proizvoda, što dovodi do tužbi.
• Mogućnost upotrebe oružja u političkim kampanjama. Deepfakeovi se mogu koristiti za stvaranje lažnih priča o zdravstvenom stanju političkih kandidata ili o nepostojećim zdravstvenim krizama za izazivanje panike, što dovodi do nestabilnosti i dezinformacija.
• Ranjive populacije, poput starijih osoba ili onih s ograničenim pristupom zdravstvenoj skrbi, postaju primarna meta medicinskih lažnih lažiranja kako bi ih se potaknulo na kupnju nepotrebnih lijekova ili samodijagnosticiranje.
• Značajan napredak u algoritmima umjetne inteligencije i strojnog učenja za točno prepoznavanje i filtriranje lažnog medicinskog sadržaja.
• Nepovjerenje u znanstvena istraživanja i recenzirane studije. Ako se manipulirani nalazi istraživanja prezentiraju putem deepfake videozapisa, može biti izazovno uočiti autentičnost medicinskih tvrdnji, ometajući napredak u medicinskom znanju i potencijalno dovodeći do širenja lažnih informacija.
• Liječnici i drugi zdravstveni djelatnici dovedeni u zabludu deepfakeovima, uništavajući im ugled i karijeru.

Pitanja za razmatranje

• Ako ste zdravstveni djelatnik, kako se vaša organizacija štiti od medicinskih lažnih lažiranja?
• Koje su druge potencijalne opasnosti medicinskih lažnih lažiranja?