クォンタムラン

画像クレジット:

iStock

検閲と AI: 検閲を強化し、フラグを立てることができるアルゴリズム

人工知能 (AI) システムの進化する学習機能は、検閲に対する利点と抑止力の両方になる可能性があります。

著者：
著者名
クォンタムラン・フォーサイト
2022 年 10 月 31 日

洞察の要約

人工知能 (AI) と検閲に関しては、多くの専門家がそのようなテクノロジーが政府の管理に及ぼす影響を懸念しています。人工知能システムは、トレーニングに使用されるデータが原因でバイアスに対して脆弱になる可能性があります。ただし、一部の組織は、AI を使用して検閲を検出および防止する方法を実験しています。

検閲と AI のコンテキスト

AI を活用したアルゴリズムは、トレーニングの対象となるデータの影響をますます受けるようになっています。しかし、この発展により、政府や組織による AI システムの潜在的な悪用に関する懸念が生じています。この顕著な例は、中国政府が AI を使用して WeChat や Weibo などのソーシャルメディアプラットフォーム上のコンテンツを検閲していることです。

逆に、AI システムの進化は、コンテンツの管理や検閲された情報の正確な検出など、特定のアプリケーションにおいても大きな期待を抱いています。ソーシャルメディアプラットフォームは、特にヘイトスピーチや暴力を扇動するコンテンツの特定において、AI を活用してサーバーに投稿されたコンテンツを監視する最前線にいます。たとえば、2019 年に YouTube は、生々しい暴力や過激派コンテンツを含む動画の識別に AI を採用する意向について重要な発表を行いました。

さらに、2020年末までにFacebookは、同社のAIアルゴリズムがプラットフォーム上に投稿されたヘイトスピーチの約94.7パーセントを検出できたと報告した。この急速に進化する状況では、政策立案者と国民の両方にとって、オンラインコンテンツに対する AI の影響の二面性について常に情報を得ることが重要です。 AI は検閲の可能性について懸念されていますが、コンテンツのモデレーションを強化し、より安全なオンライン環境を確保するための貴重なツールも提供します。

破壊的な影響

カリフォルニア大学サンディエゴ校による 2021 年の調査では、XNUMX つの個別の AI アルゴリズムを調べて、特定の用語を含む見出しをどのようにスコア付けしたかを確認しました。 AI システムは、中国語版の情報ポータル Wikipedia (中国語版ウィキペディア) およびオンライン百科事典である Baidu Baike からのトレーニングデータを評価しました。

この研究では、中国語のウィキペディアでトレーニングされた AI アルゴリズムが、「選挙」や「自由」などの用語に言及した見出しに、より肯定的なスコアをもたらしたことがわかりました。一方、Baidu Baike でトレーニングされた AI アルゴリズムは、「監視」や「社会的統制」などのフレーズを含む見出しに、より肯定的なスコアを与えました。この暴露は、AI が政府の検閲を行う可能性について、多くの専門家の間で懸念を引き起こしました。

ただし、AI が検閲の試みをどのように識別できるかを調べた研究もあります。 2021 年、シカゴ大学のデータサイエンス研究所とプリンストン大学は、インターネットの検閲を監視および検出するためのリアルタイムツールを構築する計画を発表しました。このプロジェクトの最終的な目標は、追加の監視機能とダッシュボードをデータユーザー (外交官、政策立案者、非科学者など) に提供することです。チームは検閲用にリアルタイムの「天気図」を用意して、オブザーバーがインターネットの干渉をほぼ即座に確認できるようにすることを計画しています。この機能には、政府が操作している国やサイト、またはコンテンツが含まれます。

検閲と AI の影響

検閲と AI のより広い意味には、次のようなものがあります。

サイバー犯罪者は検閲組織をハッキングして、検閲された情報を取得して操作します。
検閲やその他の情報操作を検出できるツールへの投資と研究の増加。
ソーシャルメディアプラットフォームは、コンテンツを管理するアルゴリズムを完成させ続けています。ただし、このセルフポリシングの増加により、多くのユーザーが疎外される可能性があります。
政府関係者や報道機関に対するコミュニティの不信感の高まり。
AI システムは、一部の国家によって引き続き使用され、それぞれの政府に不利な記事を削除するなど、地元のメディアやニュースを管理しています。
企業は、世界の多様なインターネット規制に準拠するためにデジタル戦略を適応させ、よりローカライズされ細分化されたオンラインサービスを実現しています。
消費者は検閲を回避するために代替の分散型プラットフォームに目を向けており、ソーシャルメディアのダイナミクスの変化を促進しています。
世界中の政策立案者は、言論の自由を抑圧することなく検閲において AI を規制するという課題に取り組んでおり、さまざまな立法アプローチにつながっています。