クォンタムラン

画像クレジット:

iStock

ディープフェイクと嫌がらせ: 合成コンテンツを使用して女性に嫌がらせをする方法

操作された画像や動画は、女性をターゲットとするデジタル環境に貢献しています。

著者：
著者名
クォンタムラン・フォーサイト
2022 年 12 月 14 日

洞察の要約

ディープフェイク技術の発展により、特に女性に対するセクハラ事件が増加している。専門家らは、合成メディアの作成、使用、配布方法に関するより厳格な法律が施行されない限り、虐待はさらに悪化すると考えている。嫌がらせにディープフェイクを使用することの長期的な影響には、訴訟の増加や、より高度なディープフェイク技術とフィルターが含まれる可能性があります。

ディープフェイクと嫌がらせのコンテキスト

2017 年、ウェブサイト Reddit のディスカッションボードが、人工知能 (AI) によって操作されたポルノを初めてホストするために使用されました。 XNUMX か月以内に、Reddit のスレッドは口コミで広まり、何千人もの人々が自分のディープフェイクポルノをサイトに投稿しました。偽のポルノや嫌がらせを作成するために使用される合成コンテンツはますます一般的になっていますが、公共の関心は、偽情報や政治的不安定を助長するプロパガンダのディープフェイクに集中することがよくあります.

「ディープフェイク」という用語は、「ディープラーニング」と「フェイク」を組み合わせた造語で、AI の助けを借りて写真やビデオを再現する方法です。このコンテンツの制作に不可欠なコンポーネントは、機械学習 (ML) です。これにより、人間の視聴者が検出するのがますます困難になっている偽の素材を迅速かつ安価に作成できます。

ニューラルネットワークは、対象者の映像でトレーニングされ、ディープフェイクビデオを作成します。トレーニングデータで使用されるフッテージが多いほど、結果はより現実的になります。ネットワークは、その人の癖やその他の性格特性を学習します。ニューラルネットワークが訓練されると、誰でもコンピュータグラフィックス技術を使用して、人物の似顔絵のコピーを別の俳優や身体に重ね合わせることができます。このコピーにより、女性有名人や一般市民が自分の画像がこのように使用されていることに気付いていないポルノ素材が急増しています。調査会社 Sensity AI によると、すべてのディープフェイクビデオの約 90 ～ 95% が、同意のないポルノのカテゴリに分類されます。

破壊的な影響

ディープフェイクはリベンジポルノの慣行を悪化させ、主に女性をターゲットにして公衆の面前で屈辱やトラウマにさらしている。エンドツーエンドのフェイクビデオ技術がますます兵器化され、個人的にも職業的にも女性に対する嫌がらせ、脅迫、屈辱、品位の低下など、女性のプライバシーと安全が危険にさらされています。さらに悪いことに、この種のコンテンツに対する規制は十分ではありません。

たとえば、2022 年の時点で、米国の 46 の州でリベンジポルノコンテンツが禁止されていますが、禁止の対象として合成メディアを明示的に取り上げているのは XNUMX つの州だけです。ディープフェイク自体は違法ではありませんが、著作権侵害または名誉毀損となる場合にのみ違法となります。これらの制限により、特にこのコンテンツをオンラインで永久に削除する方法がないため、被害者が法的措置を講じることが困難になります。

一方、合成コンテンツの別の形式であるアバター (ユーザーのオンライン表現) も攻撃の対象になっています。非営利擁護団体 SumOfUs による 2022 年のレポートによると、組織に代わって調査を行っていた女性が、メタバースプラットフォームの Horizon Worlds で暴行を受けたとされています。女性は、他のユーザーがアバターを見ている間に別のユーザーが彼女のアバターを性的暴行したと報告しました。被害者がメタの注意を喚起したとき、メタの広報担当者は、研究者が個人境界オプションを無効にしたと述べました。この機能は、安全対策として 2022 年 XNUMX 月に導入され、デフォルトで有効になり、見知らぬ人が XNUMX フィート以内でアバターに近づくのを防ぎました。

ディープフェイクと嫌がらせの影響

ディープフェイクと嫌がらせのより広い意味には、次のようなものがあります。

デジタルハラスメントや暴行に使用されるディープフェイクに対するグローバルな規制政策を実施するよう政府に求める圧力が高まっています。
有名人、ジャーナリスト、活動家など、ディープフェイクテクノロジーの被害に遭う女性が増えています。
ディープフェイクハラスメントや名誉毀損の被害者からの訴訟増加。
メタバースコミュニティのアバターやその他のオンライン表現に対する不適切な行動の増加。
リアルなコンテンツを作成できる、新しくてますます使いやすいディープフェイクアプリとフィルターがリリースされており、同意のないディープフェイクコンテンツ、特にポルノの商品化につながっています。
ソーシャルメディアおよびウェブサイトホスティングプラットフォームは、個人の禁止やグループページの削除など、プラットフォーム上で流通するコンテンツを厳重に監視するために、より多くの投資を行っています。