Deepfake medis: Serangan parah pada perawatan kesehatan

• Penulis:
• nama penulis

  Pandangan ke Depan Quantumrun
• Juni 14, 2023

Sorotan wawasan

Deepfake medis dapat menyebabkan perawatan yang tidak perlu atau salah, menyebabkan kerugian finansial dan potensi kematian. Mereka mengikis kepercayaan pasien di sektor medis, menyebabkan keragu-raguan dalam mencari perawatan dan menggunakan pengobatan jarak jauh. Deepfake medis juga menimbulkan ancaman perang dunia maya, mengganggu sistem perawatan kesehatan, dan membuat pemerintah atau ekonomi tidak stabil.

Konteks deepfake medis

Deepfake adalah perubahan digital yang dirancang untuk mengelabui seseorang agar berpikir bahwa itu asli. Dalam perawatan kesehatan, deepfake medis melibatkan manipulasi gambar diagnostik untuk menyisipkan atau menghapus tumor atau kondisi medis lainnya secara salah. Penjahat dunia maya terus berinovasi dengan metode baru untuk meluncurkan serangan deepfake medis, yang bertujuan mengganggu pengoperasian rumah sakit dan fasilitas diagnostik.

Serangan pencitraan yang dimanipulasi, seperti memasukkan tumor palsu, dapat menyebabkan pasien menjalani perawatan yang tidak perlu dan menghabiskan jutaan dolar sumber daya rumah sakit. Sebaliknya, menghilangkan tumor yang sebenarnya dari sebuah gambar dapat menahan perawatan yang diperlukan dari pasien, memperburuk kondisi mereka dan berpotensi mengakibatkan kematian. Mengingat bahwa 80 juta CT scan dilakukan setiap tahun di AS, menurut sebuah studi tahun 2022 tentang deteksi deepfake medis, taktik licik seperti itu dapat melayani agenda bermotivasi politik atau finansial, seperti penipuan asuransi. Dengan demikian, mengembangkan strategi yang kuat dan dapat diandalkan untuk mendeteksi dan mengidentifikasi perubahan gambar sangatlah penting.

Dua metode perusakan gambar yang sering dilakukan adalah copy-move dan image-splicing. Copy-move melibatkan overlay area non-target di atas wilayah target, secara efektif menyembunyikan bagian yang diminati. Selain itu, metode ini dapat melipatgandakan wilayah target, melebih-lebihkan prevalensi tempat-tempat menarik. Sementara itu, image-splicing mengikuti prosedur yang mirip dengan copy-move, kecuali duplikat area of ​​interest berasal dari image yang terpisah. Dengan munculnya mesin dan teknik pembelajaran mendalam, penyerang sekarang dapat belajar dari basis data gambar yang luas menggunakan alat seperti jaringan permusuhan generatif (GAN) yang biasa digunakan dalam video palsu.

Dampak yang mengganggu

Manipulasi digital ini dapat merusak keandalan dan integritas proses diagnostik secara signifikan. Tren ini pada akhirnya dapat meningkatkan biaya perawatan kesehatan secara substansial karena potensi biaya hukum yang terkait dengan tuntutan malpraktek. Selain itu, penyalahgunaan deepfake medis untuk penipuan asuransi dapat berkontribusi pada beban ekonomi pada sistem perawatan kesehatan, perusahaan asuransi, dan, pada akhirnya, pasien.

Selain implikasi finansial, deepfake medis juga mengancam kepercayaan pasien terhadap sektor medis. Kepercayaan adalah landasan pemberian layanan kesehatan yang efektif, dan kerugian apa pun terhadap kepercayaan ini dapat menyebabkan pasien ragu-ragu atau menghindari perawatan medis yang diperlukan karena takut disesatkan. Dalam krisis kesehatan global seperti pandemi, ketidakpercayaan ini dapat mengakibatkan jutaan kematian, termasuk menolak pengobatan dan vaksin. Ketakutan akan deepfake juga dapat membuat pasien enggan berpartisipasi dalam telemedis dan layanan kesehatan digital, yang menjadi semakin penting dalam perawatan kesehatan modern.

Selain itu, potensi penggunaan deepfake medis sebagai alat sabotase dalam perang siber tidak bisa diremehkan. Dengan menargetkan dan mengganggu sistem rumah sakit dan pusat diagnostik, musuh dapat menciptakan kekacauan, menyebabkan kerusakan fisik pada banyak orang, dan menanamkan rasa takut dan ketidakpercayaan pada masyarakat. Serangan dunia maya semacam itu dapat menjadi bagian dari strategi yang lebih luas untuk membuat pemerintah atau ekonomi tidak stabil. Oleh karena itu, infrastruktur keamanan nasional dan kesehatan masyarakat perlu secara proaktif mengembangkan strategi untuk mendeteksi dan mencegah potensi ancaman tersebut. 

Implikasi dari deepfake medis

Implikasi yang lebih luas dari deepfake medis dapat mencakup: 

• Meningkatnya kesalahan informasi medis dan diagnosis diri yang berpotensi membahayakan yang menyebabkan epidemi dan pandemi yang memburuk.
• Kerugian finansial yang signifikan bagi perusahaan farmasi dan produsen alat kesehatan karena informasi yang salah dan keragu-raguan menyebabkan produk mereka kedaluwarsa atau disalahgunakan, yang mengarah ke tuntutan hukum.
• Potensi dipersenjatai dalam kampanye politik. Deepfake dapat digunakan untuk membuat narasi palsu tentang kondisi kesehatan kandidat politik atau tentang krisis kesehatan yang tidak ada untuk menimbulkan kepanikan, yang menyebabkan ketidakstabilan dan disinformasi.
• Populasi yang rentan, seperti lansia atau mereka yang memiliki akses terbatas ke layanan kesehatan, menjadi target utama deepfake medis untuk mendorong mereka membeli obat yang tidak perlu atau mendiagnosis diri sendiri.
• Kemajuan signifikan dalam kecerdasan buatan dan algoritme pembelajaran mesin untuk mengidentifikasi dan memfilter konten medis deepfake secara akurat.
• Ketidakpercayaan dalam penelitian ilmiah dan studi peer-review. Jika temuan penelitian yang dimanipulasi disajikan melalui video deepfake, mungkin sulit untuk membedakan keaslian klaim medis, menghambat kemajuan dalam pengetahuan medis, dan berpotensi mengarah pada penyebaran informasi palsu.
• Dokter dan profesional kesehatan lainnya disesatkan oleh deepfake, merusak reputasi dan karier mereka.

Pertanyaan untuk dipertimbangkan

• Jika Anda seorang profesional perawatan kesehatan, bagaimana organisasi Anda melindungi diri dari deepfake medis?
• Apa potensi bahaya lain dari deepfake medis?