Deepfakes ба дарамт: синтетик контентыг эмэгтэйчүүдийг дарамтлахад хэрхэн ашигладаг вэ?

• Зохиогчийн тухай:
• Зохиогчийн нэр

  Quantumrun Foresight
• Арванхоёрдугаар сар 14, 2022

Үзэл баримтлалын хураангуй

Deepfake технологийн хөгжил нь бэлгийн дарамт, ялангуяа эмэгтэйчүүдийн эсрэг гэмт хэргийн гаралтыг нэмэгдүүлсээр байна. Синтетик хэвлэл мэдээллийн хэрэгслийг хэрхэн бий болгох, ашиглах, түгээх талаар хатуу хууль хэрэгжүүлэхгүй бол хүчирхийлэл улам бүр дордоно гэж шинжээчид үзэж байна. Хуурамч дүрсийг дарамтлах зорилгоор ашиглах нь урт хугацааны үр дагаварт зарга нэмэгдэх, илүү дэвшилтэт гүн хуурамч технологи, шүүлтүүр багтана.

Deepfakes болон дарамтын нөхцөл байдал

2017 онд Reddit вэб сайтын хэлэлцүүлгийн самбарыг анх удаа хиймэл оюун ухаан (AI) ашиглан садар самууныг үзүүлэхэд ашигласан. Сарын дотор Reddit-ийн сүлжээ цахим ертөнцөд тархаж, олон мянган хүмүүс гүн гүнзгий порнографыг сайтад нийтэлжээ. Хуурамч порнограф, дарамт шахалт үзүүлэхэд ашигладаг синтетик контент улам бүр түгээмэл болж байгаа ч олон нийтийн сонирхол нь худал мэдээлэл, улс төрийн тогтворгүй байдлыг сурталчлах гүн гүнзгий суртал ухуулгад төвлөрдөг. 

"Deepfake" гэдэг нэр томьёо нь "гүнзгий суралцах" болон "хуурамч" гэсэн үгсийн хослол бөгөөд хиймэл оюун ухааны тусламжтайгаар гэрэл зураг, видеог дахин бүтээх арга юм. Энэхүү контентын үйлдвэрлэлийн чухал бүрэлдэхүүн хэсэг нь хүний ​​үзэгчдэд илрүүлэхэд улам бүр хэцүү болж буй хуурамч материалыг хурдан бөгөөд хямдхан бүтээх боломжийг олгодог машин сургалт (ML) юм.

 Мэдрэлийн сүлжээг зорилтот хүний ​​дүрс бичлэгээр сургаж, гүн хуурамч видеог бүтээдэг. Сургалтын өгөгдөлд илүү олон бичлэг ашиглах тусам үр дүн нь илүү бодитой байх болно; сүлжээ нь тухайн хүний ​​зан ааш, зан чанарын бусад шинж чанаруудыг сурах болно. Мэдрэлийн сүлжээг сургасны дараа хэн ч компьютер-график техникийг ашиглан тухайн хүний ​​дүр төрхийг өөр жүжигчин эсвэл бие дээр буулгах боломжтой. Энэ хуулбарын үр дүнд эмэгтэй алдартнууд болон тэдний зургийг ийм байдлаар ашигласан гэдгийг мэддэггүй энгийн иргэдийн порнографын материалууд олширчээ. Sensity AI судалгааны фирмийн мэдээлснээр бүх гүн хуурамч видео бичлэгүүдийн 90-95 хувь нь зөвшилцөлгүй порнографын ангилалд багтдаг.

Сөрөг нөлөө

Deepfakes нь өс хонзонгийн порно киноны практикийг улам бүр дордуулж, юуны түрүүнд эмэгтэйчүүдийг олон нийтийн доромжлол, гэмтэлд өртөхөд чиглүүлдэг. Хуурамч видео технологи нь эмэгтэйчүүдийг хувийн болон мэргэжлийн хувьд дарамтлах, айлган сүрдүүлэх, гутаан доромжлох, гутаан доромжлох зэрэг зэвсгээр улам бүр нэмэгдсээр байгаа тул эмэгтэйчүүдийн хувийн нууц, аюулгүй байдал эрсдэлд орж байна. Хамгийн муу нь, энэ төрлийн агуулгын эсрэг хангалттай зохицуулалт байдаггүй.

Жишээлбэл, 2022 оны байдлаар АНУ-ын 46 мужид өшөө авалтын порно контентыг хориглосон бөгөөд зөвхөн хоёр муж нь синтетик хэвлэл мэдээллийн хэрэгслийг хориглосон байна. Deepfakes нь өөрөө хууль бус биш бөгөөд зөвхөн зохиогчийн эрхийг зөрчсөн эсвэл гүтгэлгийн шинж чанартай болдог. Эдгээр хязгаарлалтууд нь хохирогчдод хуулийн дагуу арга хэмжээ авахад хүндрэл учруулдаг, ялангуяа энэ агуулгыг онлайнаар бүрмөсөн устгах арга байхгүй тул.

Үүний зэрэгцээ синтетик контентын өөр нэг хэлбэр болох аватар (хэрэглэгчийн онлайн дүрслэл) нь халдлагад өртөж байна. Ашгийн бус өмгөөллийн SumOfUs байгууллагын 2022 оны тайланд дурдсанаар тус байгууллагыг төлөөлөн судалгаа хийж байсан эмэгтэй Metaverse платформ Horizon Worlds дээр халдлагад өртсөн байна. Бусад хэрэглэгч түүний аватарыг харж байхад өөр хэрэглэгч бэлгийн хүчирхийлэл үйлдсэн гэж эмэгтэй мэдээлэв. Хохирогч энэ явдлыг Метагийн анхаарлыг татахад Метагийн төлөөлөгч судлаач Хувийн хилийн сонголтыг идэвхгүй болгосон гэж мэдэгджээ. Энэхүү функцийг 2022 оны XNUMX-р сард анхдагчаар идэвхжүүлсэн, танихгүй хүмүүс аватар руу дөрвөн фут зайд ойртохоос сэргийлж аюулгүй байдлын арга хэмжээ болгон нэвтрүүлсэн.

Хуурамч хуурмаг, дарамт шахалтын үр дагавар

Хуурамч, дарамт шахалтын өргөн хүрээний үр дагавар нь дараахь зүйлийг агуулж болно. 

• Дижитал дарамт, халдлагад ашигладаг гүний хуурамч мэдээлэлтэй тэмцэх дэлхийн зохицуулалтын бодлогыг хэрэгжүүлэхийн тулд засгийн газруудад үзүүлэх дарамт нэмэгдэж байна.
• Илүү олон эмэгтэйчүүд, ялангуяа алдартнууд, сэтгүүлчид, идэвхтнүүд гүн хуурамч технологийн золиос болж байна.
• Гүн хуурамч дарамт, гүтгэлэгт өртсөн хохирогчдын нэхэмжлэлийн тоо нэмэгдэж байна. 
• Метаверс нийгэмлэгүүдэд аватар болон бусад онлайн дүрслэлд зохисгүй үйлдэл хийх тохиолдол нэмэгдсэн.
• Бодит агуулгыг бий болгож чадах шинэ, ашиглахад улам хялбар гүнзгийрүүлсэн хуурамч программууд болон шүүлтүүрүүд гарч байгаа нь зөвшилцөөгүй гүний хуурамч контент, ялангуяа порнографыг худалдаанд гаргахад хүргэж байна.
• Сошиал медиа болон вэб сайт байршуулах платформууд өөрсдийн платформ дээр тархсан агуулгыг хянахын тулд илүү их хөрөнгө оруулалт хийдэг, үүнд хувь хүмүүсийг хориглох эсвэл бүлгийн хуудсыг устгах зэрэг орно.

Анхаарах асуултууд

• Танай засгийн газар гүн хуурамч дарамтыг хэрхэн шийдэж байна вэ?
• Онлайн хэрэглэгчид гүн хуурамч бүтээгчдийн золиос болохоос өөр ямар арга замууд байдаг вэ?