Deepfakes: Тэд юу вэ, яагаад чухал вэ?

• Зохиогчийн тухай:
• Зохиогчийн нэр

  Quantumrun Foresight
• Нэгдүгээр 19, 2022

Үзэл баримтлалын хураангуй

Хэт бодитой хуурамч видео, аудио бүтээх боломжийг олгодог Deepfakes технологи нь 2017 онд гарч ирсэн бөгөөд түүнээс хойш санаа зоволт, боломжийн аль алиныг нь өдөөсөн. Технологийг хуурамч контент бүтээхэд буруугаар ашигласан ч онлайн нууцлалыг сайжруулах, зар сурталчилгааны стратегийг өөрчлөх, хууль сахиулах ажиллагаанд туслах зэрэг боломжит ашиг тусыг өгдөг. Гэсэн хэдий ч, дижитал бичиг үсгийн боловсрол олгох хэрэгцээ, гүнзгий хуурамч мэдээллийг илрүүлэхэд чиглэсэн шинэ салбарын өсөлтөөс эхлээд ёс суртахууны хэм хэмжээ, эрчим хүчний хэрэглээг нэмэгдүүлэх зэрэгт гүнзгийрүүлэхийн урт хугацааны үр дагавар асар их юм.

Deepfakes контекст

"Deepfake" гэсэн нэр томъёо нь 2017 онд Reddit-ийн хэрэглэгч нээлттэй эх сурвалжийн нүүр солих технологи ашигласан порно бичлэгийг хуваалцсанаар олон нийтэд танигдаж эхэлсэн. Эдгээр видеон дээр тэд Скарлетт Йоханссон, Тейлор Свифт, Гал Гадот болон бусад алдартнуудын нүүр царайг порно жүжигчидтэй сольжээ. Энэ дөнгөж эхлэл байсан.

Deepfake технологи нь хүмүүст хэзээ ч тохиолдож байгаагүй үйл явдлуудын видео эсвэл аудио үүсгэх боломжийг олгодог. Жишээлбэл, алдартнууд болон улстөрчид хэзээ ч хийж байгаагүй, хэлж байгаагүй зүйлээ хийж, хэлж буй бичлэг дээр өөрсдийгөө олж хардаг. Deepfake технологиор бүтээгдсэн хуурамч дүрс, дууны талаарх санаа зовоосон асуудал нь эсрэг арга хэмжээнүүдийг олшруулахад хүргэсэн. Deepfakes-ийн сөрөг нөлөөг арилгахын тулд шинэ хуулиудыг нэвтрүүлэх нь зайлшгүй шаардлагатай. 2020 онд Twitter, Facebook зэрэг сошиал медиа платформууд өөрсдийн сүлжээнээсээ deepfake хийхийг хориглосон. 

Өндөр чанартай deepfake клип үүсгэхийн тулд хэд хэдэн алхам шаардлагатай. Эхлээд кодлогчоор дамжуулан хоёр хүний ​​царайны олон мянган зургийг ажиллуул. Кодлогч нь хоёр нүүрний ижил төстэй байдлыг онцолж, зургийг шахах замаар хуваалцсан шинж чанаруудыг бууруулдаг. Дараа нь декодер ашиглан шахсан зургуудаас нүүр царайг нь сэргээдэг. Нүүр царай нь өөр байдаг тул нэг декодлогчийг эхний хүний ​​царайг сэргээх, нөгөөг нь хоёр дахь хүний ​​царайг сэргээхэд сургадаг. Үүний дараа бүтээгч нүүр солих аргыг хэрэглэхийн тулд кодлогдсон зургуудыг "буруу" декодерт оруулах шаардлагатай. 

Сөрөг нөлөө

Deepfakes нь ихээхэн аюул занал учруулахын зэрэгцээ өвөрмөц боломжуудыг бий болгодог. Хувь хүмүүсийн хувьд бодитой дижитал дүр бүтээх чадвар нь онлайн харилцааг өөрчилж чадна. Жишээлбэл, хүн видео дуудлагын үеэр нууцлалыг хадгалахын тулд гүн фэйк ашиглаж, жинхэнэ царайныхаа оронд дижитал аватар үзүүлж болно. Энэ функц нь хувийн аюулгүй байдал эсвэл нэрээ нууцлах нь чухал байдаг нөхцөлд ялангуяа ашигтай байж болох юм.

Корпорацуудын хувьд deepfakes нь зар сурталчилгаа болон үйлчлүүлэгчийн оролцооны стратегийг дахин тодорхойлж чаддаг. Компаниуд өөр өөр зорилтот бүлгүүдэд тохирсон виртуал төлөөлөгчдийг бий болгож чадна. Энэхүү стратеги нь илүү хувийн, үр дүнтэй маркетингийн кампанит ажилд хүргэж болзошгүй юм. Гэсэн хэдий ч энэ нь хэт бодитой мөртлөө зохиомол дүрслэлд хууртагдах магадлалтай тул энэ нь ёс зүйн асуудлыг бий болгодог.

Засгийн газрууд олон нийтийн аюулгүй байдал, аюулгүй байдлын зорилгоор гүнзгий хуурамч технологийг ашиглаж болно. Жишээлбэл, хууль сахиулах байгууллагууд гэмт хэрэгтнүүдийг эрсдэлд оруулахгүйгээр бодит хувилбаруудыг бий болгох үйл ажиллагаанд гүн хуурамч баримт ашиглаж болно. Гэсэн хэдий ч буруугаар ашиглах магадлал өндөр бөгөөд засгийн газрууд энэ технологийг урвуулан ашиглахаас урьдчилан сэргийлэх хатуу зохицуулалтыг бий болгох нь маш чухал юм. Удаан хугацааны туршид гүн фэйкийн нөлөө нь бид энэ хүчирхэг хэрэгслийг хэр хариуцлагатай ашиглаж, зохицуулахаас ихээхэн шалтгаална.

Deepfakes-ийн үр дагавар

Deepfake технологийн өргөн хүрээний үр дагавар нь дараахь зүйлийг агуулж болно. 

• Цаг хугацаа, орон зайн олдворуудын харилцан хамаарал бүхий гэмт хэргийн газрыг сэргээн засварлахад хууль сахиулах байгууллагад ашиглах. 
• Загварын жижиглэн худалдааны бизнес эрхлэгчид үүнийг хэрэглэгчиддээ дуртай бүтээгдэхүүнээ туршиж үзэхгүйгээр виртуал туршилтын өрөөг бий болгоход ашигладаг.
• Хувь хүмүүсийг цахим ертөнцөд нэгтгэх, өөрийгөө илэрхийлэх шинэ хэрэгслээр хангах. Жишээлбэл, хувь хүмүүс онлайнаар өөрийгөө илэрхийлэхийн тулд өөрсдийн аватарыг бүтээж болно.
• Олон муу жүжигчид хэвлэл мэдээллийн хэрэгслээр гүнзгийрүүлсэн, өргөн дэлгэр хэрэглээ. Энэ хамгийн муу хувилбарт гүнзгий хуурамч мэдээлэл нь нийгэмд өөрсдийн харж, сонссон зүйлдээ итгэх чадварыг бууруулж, нийгмийн өргөн хүрээг хамарсан суртал ухуулга, янз бүрийн арга хэлбэрт өртөмтгий болгодог.
• Дижитал бичиг үсгийн боловсролын эрэлт нэмэгдэж байгаа нь бодит болон хувиргасан агуулгыг илүү сайн ялгаж чаддаг илүү мэдээлэлтэй, ухамсартай хүн амыг бий болгож байна.
• Хуурамч мэдээллийг гүнзгий илрүүлэх, урьдчилан сэргийлэх, ажлын байр бий болгох, эдийн засгийн өсөлтөд чиглэгдсэн шинэ салбар.
• Хиймэл оюун ухаан, машин сургалтын дэвшил, технологийн хувьд боломжтой зүйлийн хил хязгаарыг түлхэж байна.
• Deepfakes үүсгэх, илрүүлэхэд ихээхэн хэмжээний тооцооллын нөөц шаардагддаг тул эрчим хүчний хэрэглээ нэмэгдэж байна.

Анхаарах асуултууд

• Deepfakes нийгэмд ямар нөлөө үзүүлж болох вэ?
• Засгийн газраас гаргасан хууль тогтоомжууд гүн фэйкийн сөрөг хэрэглээг арилгахад тусална гэж та бодож байна уу? 
• Deepfake технологийг ирээдүйд ямар шинэлэг зүйлд ашиглаж болох вэ?