Медицинские дипфейки: серьезная атака на здравоохранение

• Автор:
• Имя автора

  Квантумран Форсайт
• 14 июня 2023

Основные моменты

Медицинские дипфейки могут привести к ненужному или неправильному лечению, что приведет к финансовым потерям и возможным летальным исходам. Они подрывают доверие пациентов к медицинскому сектору, что приводит к нерешительности в обращении за медицинской помощью и использовании телемедицины. Медицинские дипфейки также представляют собой угрозу кибервойны, нарушая работу систем здравоохранения и дестабилизируя правительства или экономику.

Контекст медицинских дипфейков

Дипфейки — это цифровые изменения, предназначенные для того, чтобы заставить кого-то думать, что они настоящие. В сфере здравоохранения медицинские дипфейки включают в себя манипулирование диагностическими изображениями для ложной вставки или удаления опухолей или других заболеваний. Киберпреступники постоянно изобретают новые методы запуска медицинских дипфейков, стремясь нарушить работу больниц и диагностических учреждений.

Манипулятивные атаки с использованием изображений, такие как вставка ложных опухолей, могут привести к тому, что пациенты будут проходить ненужное лечение и истощать ресурсы больниц на миллионы долларов. И наоборот, удаление фактической опухоли из изображения может лишить пациента необходимого лечения, усугубить его состояние и потенциально привести к летальному исходу. Учитывая, что в США ежегодно проводится 80 миллионов компьютерных томографов, согласно исследованию 2022 года по обнаружению медицинских дипфейков, такая обманная тактика может служить политически или финансово мотивированным целям, таким как мошенничество со страховкой. Таким образом, разработка надежных и надежных стратегий для обнаружения и идентификации изменений изображения имеет решающее значение.

Два частых метода подделки изображений включают копирование-перемещение и сращивание изображений. Копирование-перемещение включает в себя наложение нецелевой области поверх целевой области, эффективно скрывая интересующую часть. Кроме того, этот метод может умножать целевую область, преувеличивая распространенность достопримечательностей. Между тем, объединение изображений следует процедуре, аналогичной копированию-перемещению, за исключением того, что дублирующая интересующая область создается на отдельном изображении. С появлением технологий машинного и глубокого обучения злоумышленники теперь могут учиться на обширных базах данных изображений, используя такие инструменты, как генеративно-состязательные сети (GAN), обычно используемые в сфабрикованных видео.

Разрушительное воздействие

Эти цифровые манипуляции могут значительно подорвать надежность и целостность диагностических процессов. Эта тенденция может в конечном итоге существенно увеличить расходы на здравоохранение из-за потенциальных судебных издержек, связанных с исками о злоупотреблении служебным положением. Кроме того, неправомерное использование медицинских дипфейков для мошенничества со страховкой может увеличить экономическую нагрузку на системы здравоохранения, страховщиков и, в конечном счете, на пациентов.

Помимо финансовых последствий, медицинские дипфейки также серьезно угрожают доверию пациентов к медицинскому сектору. Доверие является краеугольным камнем эффективного оказания медицинской помощи, и любой ущерб этому доверию может привести к тому, что пациенты будут колебаться или избегать необходимой медицинской помощи из-за боязни быть введенными в заблуждение. Во время глобальных кризисов в области здравоохранения, таких как пандемии, это недоверие может привести к миллионам смертей, включая отказ от лечения и вакцин. Страх перед дипфейками также может отбить у пациентов желание пользоваться услугами телемедицины и цифрового здравоохранения, которые становятся все более важными в современном здравоохранении.

Более того, нельзя недооценивать потенциальное использование медицинских дипфейков в качестве инструмента саботажа в кибервойне. Нанося удары по больничным системам и диагностическим центрам и нарушая их работу, злоумышленники могут создавать хаос, причинять физический вред многим людям и вселять страх и недоверие в население. Такие кибератаки могут быть частью более широких стратегий по дестабилизации правительств или экономики. Поэтому инфраструктура национальной безопасности и общественного здравоохранения должна активно разрабатывать стратегии для обнаружения и предотвращения этих потенциальных угроз. 

Последствия медицинских дипфейков

Более широкие последствия медицинских дипфейков могут включать: 

• Рост медицинской дезинформации и потенциально вредной самодиагностики, приводящие к обострению эпидемий и пандемий.
• Значительные финансовые потери для фармацевтических компаний и производителей медицинского оборудования, поскольку дезинформация и нерешительность приводят к тому, что срок их продукции истекает или они используются не по назначению, что приводит к судебным искам.
• Возможность использования в качестве оружия в политических кампаниях. Дипфейки могут использоваться для создания ложных рассказов о состоянии здоровья политических кандидатов или о несуществующих кризисах в области здравоохранения, чтобы вызвать панику, что приведет к нестабильности и дезинформации.
• Уязвимые группы населения, такие как пожилые люди или люди с ограниченным доступом к здравоохранению, становятся основной целью медицинских дипфейков, побуждающих их покупать ненужные лекарства или проводить самодиагностику.
• Значительные достижения в алгоритмах искусственного интеллекта и машинного обучения для точного выявления и фильтрации фейкового медицинского контента.
• Недоверие к научным исследованиям и рецензируемым исследованиям. Если манипулированные результаты исследований представлены в виде дипфейковых видео, может быть сложно распознать подлинность медицинских утверждений, что будет препятствовать развитию медицинских знаний и может привести к распространению ложной информации.
• Дипфейки вводят врачей и других медицинских работников в заблуждение, разрушая их репутацию и карьеру.

Вопросы для рассмотрения

• Если вы медицинский работник, как ваша организация защищает себя от медицинских дипфейков?
• Каковы другие потенциальные опасности медицинских дипфейков?