Medical deepfakes: Tvrdý útok na zdravotnictví

• Autor:
• jméno autora

  Quantumrun Foresight
• Června 14, 2023

Zvýraznění Insight

Lékařské deepfakes mohou vést ke zbytečným nebo nesprávným léčbám, což může způsobit finanční ztráty a potenciální úmrtí. Narušují důvěru pacientů v lékařský sektor, což vede k váhavosti při hledání péče a používání telemedicíny. Lékařské deepfakes také představují hrozbu kybernetické války, narušují zdravotnické systémy a destabilizují vlády nebo ekonomiky.

Medicínské deepfakes kontext

Deepfakes jsou digitální úpravy navržené tak, aby někoho přiměly k tomu, aby si myslel, že je autentický. Ve zdravotnictví zahrnují lékařské deepfakes manipulaci s diagnostickými obrázky za účelem falešného vložení nebo odstranění nádorů nebo jiných zdravotních stavů. Kyberzločinci neustále inovují nové metody spouštění lékařských deepfake útoků, jejichž cílem je narušit provoz nemocnic a diagnostických zařízení.

Manipulované zobrazovací útoky, jako je vkládání falešných nádorů, mohou vést k tomu, že pacienti podstoupí zbytečnou léčbu a vyčerpají miliony dolarů v nemocničních zdrojích. Naopak odstranění skutečného nádoru ze snímku může pacientovi odepřít nezbytnou léčbu, zhoršit jeho stav a potenciálně vést k úmrtí. Vzhledem k tomu, že v USA se ročně provede 80 milionů CT vyšetření, podle studie z roku 2022 o lékařském hloubkovém odhalování mohou takové klamavé taktiky sloužit politicky nebo finančně motivovaným programům, jako jsou pojistné podvody. Vývoj robustních a spolehlivých strategií pro detekci a identifikaci změn obrazu je proto kriticky důležitý.

Dvě časté metody manipulace s obrazem zahrnují kopírování-přesun a spojování obrazu. Kopírování-přesun zahrnuje překrytí necílové oblasti nad cílovou oblast, čímž se účinně skryje část zájmu. Kromě toho může tato metoda znásobit cílovou oblast a zveličit převahu míst zájmu. Mezitím se spojování obrazu řídí postupem podobným kopírování a přesunu, s tím rozdílem, že duplicitní oblast zájmu pochází ze samostatného obrazu. Se vzestupem technik strojového a hlubokého učení se nyní útočníci mohou učit z rozsáhlých databází obrázků pomocí nástrojů, jako jsou generativní adversariální sítě (GAN), běžně používané ve vyrobených videích.

Rušivý dopad

Tyto digitální manipulace by mohly významně narušit spolehlivost a integritu diagnostických procesů. Tento trend by mohl v konečném důsledku podstatně zvýšit náklady na zdravotní péči kvůli potenciálním právním poplatkům spojeným se žalobami za nekalou praxi. Kromě toho by zneužití lékařských deepfakes k pojistným podvodům mohlo přispět k ekonomické zátěži systémů zdravotní péče, pojistitelů a nakonec i pacientů.

Kromě finančních důsledků lékařské deepfakes také vážně ohrožují důvěru pacientů v lékařský sektor. Důvěra je základním kamenem efektivního poskytování zdravotní péče a jakékoli poškození této důvěry by mohlo vést k tomu, že pacienti budou váhat nebo se vyhýbají potřebné lékařské péči kvůli strachu, že budou uvedeni v omyl. V globálních zdravotních krizích, jako jsou pandemie, může tato nedůvěra vést k milionům úmrtí, včetně odmítnutí léčby a vakcín. Strach z deepfakes by také mohl pacienty odradit od účasti na telemedicíně a digitálních zdravotnických službách, které jsou v moderním zdravotnictví stále důležitější.

Navíc nelze podceňovat potenciální využití lékařských deepfakes jako nástroje sabotáže v kybernetické válce. Zacílením a narušením nemocničních systémů a diagnostických center by protivníci mohli vytvořit chaos, způsobit fyzickou újmu mnoha lidem a vzbudit v populaci strach a nedůvěru. Takové kybernetické útoky by mohly být součástí širších strategií k destabilizaci vlád nebo ekonomik. Proto je třeba, aby infrastruktura národní bezpečnosti a veřejného zdraví proaktivně vyvíjela strategie pro detekci a prevenci těchto potenciálních hrozeb. 

Důsledky lékařských deepfakes

Širší důsledky lékařských deepfakes mohou zahrnovat: 

• Zvýšené lékařské dezinformace a potenciálně škodlivé autodiagnostiky vedoucí ke zhoršení epidemií a pandemií.
• Významné finanční ztráty farmaceutických společností a výrobců zdravotnických prostředků, protože dezinformace a váhavost způsobují expiraci jejich produktů nebo jejich zneužití, což vede k soudním sporům.
• Potenciál být vyzbrojen v politických kampaních. Deepfakes by mohly být použity k vytvoření falešných narativů o zdravotním stavu politických kandidátů nebo o neexistujících zdravotních krizích k vyvolání paniky vedoucí k nestabilitě a dezinformacím.
• Zranitelné skupiny obyvatel, jako jsou senioři nebo lidé s omezeným přístupem ke zdravotní péči, se stávají hlavním cílem lékařských deepfakeů, které je mají povzbudit k nákupu zbytečných léků nebo vlastní diagnostiky.
• Významný pokrok v oblasti umělé inteligence a algoritmů strojového učení pro přesnou identifikaci a filtrování hluboce falešného lékařského obsahu.
• Nedůvěra ve vědecký výzkum a recenzované studie. Pokud jsou zmanipulované výsledky výzkumu prezentovány prostřednictvím hluboce falešných videí, může být obtížné rozpoznat pravost lékařských tvrzení, což brání pokroku v lékařských znalostech a potenciálně vede k šíření nepravdivých informací.
• Lékaři a další zdravotničtí pracovníci jsou uváděni v omyl hlubokými fakely, které ničí jejich pověst a kariéru.

Otázky k zamyšlení

• Pokud jste zdravotnický pracovník, jak se vaše organizace chrání před lékařskými falešnými informacemi?
• Jaká jsou další potenciální nebezpečí lékařských deepfakeů?