Quantumrun

KREDIT OBRAZU:

iStock

Cenzura a umělá inteligence: Algoritmy, které mohou znovu prosadit a označit cenzuru

Vyvíjející se schopnosti učení systémů umělé inteligence (AI) mohou být jak přínosem, tak odrazem od cenzury.

Autor:
jméno autora
Quantumrun Foresight
Října 31, 2022

Shrnutí statistik

Pokud jde o umělou inteligenci (AI) a cenzuru, mnoho odborníků se obává důsledků takové technologie na vládní kontrolu. Systémy umělé inteligence mohou být zranitelné vůči zkreslení kvůli údajům používaným k jejich výcviku. Některé organizace však také experimentují s tím, jak využít umělou inteligenci k detekci a prevenci cenzury.

Cenzura a kontext AI

Algoritmy založené na AI jsou stále více ovlivňovány daty, na kterých jsou trénovány. Tento vývoj však vyvolává obavy z možného zneužití systémů umělé inteligence vládami nebo organizacemi. Pozoruhodným příkladem toho je použití umělé inteligence čínskou vládou k cenzuře obsahu na platformách sociálních médií, jako jsou WeChat a Weibo.

Naopak vývoj systémů umělé inteligence je také velmi slibný v určitých aplikacích, jako je moderování obsahu a přesná detekce cenzurovaných informací. Platformy sociálních médií jsou v popředí využívání AI ke sledování obsahu zveřejněného na jejich serverech, zejména pokud jde o identifikaci nenávistných projevů a obsahu, který podněcuje k násilí. Například v roce 2019 společnost YouTube významně oznámila svůj záměr využívat umělou inteligenci k identifikaci videí obsahujících explicitní násilí nebo extremistický obsah.

Navíc do konce roku 2020 Facebook oznámil, že jeho algoritmy AI dokážou detekovat přibližně 94.7 procent nenávistných projevů zveřejněných na platformě. V tomto rychle se vyvíjejícím prostředí je pro tvůrce politik i veřejnost zásadní, aby byli informováni o dvojí povaze vlivu umělé inteligence na online obsah. I když existují obavy ohledně jeho potenciálu pro cenzuru, AI také nabízí cenné nástroje pro zlepšení moderování obsahu a zajištění bezpečnějšího online prostředí.

Rušivý dopad

Studie Kalifornské univerzity v San Diegu z roku 2021 zkoumala dva samostatné algoritmy umělé inteligence, aby zjistila, jak skórovaly titulky obsahující konkrétní výrazy. Systémy umělé inteligence vyhodnocovaly tréninková data z čínské verze informačního portálu Wikipedia (čínská Wikipedie) a online encyklopedie Baidu Baike.

Studie zjistila, že algoritmus umělé inteligence trénovaný na čínské Wikipedii přinesl pozitivnější skóre u titulků, které zmiňovaly pojmy jako „volby“ a „svoboda“. Algoritmus umělé inteligence trénovaný na Baidu Baike mezitím dal více pozitivních skóre titulkům obsahujícím fráze jako „dozor“ a „sociální kontrola“. Toto odhalení vyvolalo mezi mnoha odborníky obavy ohledně potenciálu AI pro vládní cenzuru.

Existují však také studie, které zkoumaly, jak umělá inteligence dokáže identifikovat pokusy o cenzuru. V roce 2021 vydaly Institut pro datovou vědu Chicagské univerzity a Princetonská univerzita plány na vybudování nástroje v reálném čase pro sledování a odhalování cenzury internetu. Konečným cílem projektu je poskytnout uživatelům dat – včetně diplomatů, politiků a nevědců – další možnosti monitorování a řídicí panely. Tým plánuje mít „mapu počasí“ v reálném čase pro cenzuru, aby pozorovatelé mohli téměř okamžitě vidět rušení internetu, jak k němu dochází. Tato funkce by zahrnovala země a weby nebo obsah, se kterým vlády manipulují.

Důsledky cenzury a umělé inteligence

Širší důsledky cenzury a umělé inteligence mohou zahrnovat:

Kyberzločinci pronikají do cenzurních organizací, aby zachytili a zmanipulovali cenzurované informace.
Zvýšené investice a výzkum nástrojů, které dokážou odhalit cenzuru a další manipulaci s informacemi.
Platformy sociálních médií nadále zdokonalují své algoritmy pro moderování obsahu. Tato rostoucí sebekontrola však může mnoho uživatelů odradit.
Nárůst nedůvěry komunity vůči vládním úředníkům a zpravodajským médiím.
Systémy umělé inteligence nadále používají některé národní státy k ovládání místních médií a zpráv, včetně odstraňování příběhů nepříznivých pro příslušné vlády.
Firmy přizpůsobují své digitální strategie tak, aby vyhovovaly různým globálním internetovým předpisům, což vede k více lokalizovaným a segmentovaným online službám.
Spotřebitelé se obracejí k alternativním, decentralizovaným platformám, aby se vyhnuli cenzuře, což podporuje posun v dynamice sociálních médií.
Tvůrci politik na celém světě se potýkají s výzvou regulace umělé inteligence v cenzuře bez potlačení svobody slova, což vede k různým legislativním přístupům.