Kuantumrun

GÖRÜNTÜ KREDİSİ:

iStock

Sansür ve AI: Sansürü yeniden uygulayabilen ve işaretleyebilen algoritmalar

Yapay zeka (AI) sistemlerinin gelişen öğrenme yetenekleri, sansür için hem bir fayda hem de caydırıcı olabilir.

Yazar:
Yazar adı
Kuantumrun Öngörüsü
31 Ekim 2022

Analiz özeti

Yapay zeka (AI) ve sansür söz konusu olduğunda birçok uzman, bu tür teknolojinin hükümet kontrolüne ilişkin sonuçlarından endişe duyuyor. Yapay zeka sistemleri, onları eğitmek için kullanılan veriler nedeniyle önyargılara karşı savunmasız olabilir. Ancak bazı kuruluşlar sansürü tespit etmek ve önlemek için yapay zekanın nasıl kullanılacağı konusunda da deneyler yapıyor.

Sansür ve yapay zeka bağlamı

Yapay zeka tarafından desteklenen algoritmalar, üzerinde eğitildikleri verilerden giderek daha fazla etkileniyor. Ancak bu gelişme, yapay zeka sistemlerinin hükümetler veya kuruluşlar tarafından potansiyel olarak kötüye kullanılmasına ilişkin endişeleri artırıyor. Bunun çarpıcı bir örneği, Çin hükümetinin WeChat ve Weibo gibi sosyal medya platformlarındaki içeriği sansürlemek için yapay zekayı kullanmasıdır.

Bunun tersine, yapay zeka sistemlerinin gelişimi, içerik denetimi ve sansürlenmiş bilgilerin doğru tespiti gibi belirli uygulamalarda da büyük umut vaat ediyor. Sosyal medya platformları, özellikle nefret söylemi ve şiddeti teşvik eden içeriğin belirlenmesi söz konusu olduğunda, sunucularında yayınlanan içeriği izlemek için yapay zekadan yararlanma konusunda ön sıralarda yer alıyor. Örneğin, 2019'da YouTube, sansürlenmemiş şiddet veya aşırılık yanlısı içerik içeren videoları tespit etmek için yapay zekayı kullanma niyetiyle ilgili önemli bir duyuru yaptı.

Ayrıca Facebook, 2020 yılı sonuna kadar yapay zeka algoritmalarının platformda yayınlanan nefret söyleminin yaklaşık yüzde 94.7'sini tespit edebildiğini bildirdi. Hızla gelişen bu ortamda, hem politika yapıcıların hem de halkın, yapay zekanın çevrimiçi içerik üzerindeki etkisinin ikili doğası hakkında bilgi sahibi olması hayati önem taşıyor. Sansür potansiyeline ilişkin endişeler olsa da yapay zeka aynı zamanda içerik denetimini geliştirmek ve daha güvenli bir çevrimiçi ortam sağlamak için değerli araçlar da sunuyor.

Yıkıcı etki

California San Diego Üniversitesi tarafından 2021 yılında yapılan bir araştırma, belirli terimleri içeren manşetleri nasıl puanladıklarını görmek için iki ayrı AI algoritmasını inceledi. AI sistemleri, bilgi portalı Wikipedia'nın (Çin Wikipedia) Çince versiyonundan ve çevrimiçi bir ansiklopedi olan Baidu Baike'den eğitim verilerini değerlendirdi.

Çalışma, Çince Vikipedi'de eğitilen AI algoritmasının, "seçim" ve "özgürlük" gibi terimlerden bahseden manşetlere daha olumlu puanlar verdiğini buldu. Bu arada, Baidu Baike üzerinde eğitilen AI algoritması, "gözetim" ve "sosyal kontrol" gibi ifadeler içeren başlıklara daha olumlu puanlar verdi. Bu vahiy, birçok uzman arasında AI'nın hükümet sansürü potansiyeli hakkında endişelere yol açtı.

Bununla birlikte, yapay zekanın sansür girişimlerini nasıl tanımlayabildiğini inceleyen çalışmalar da var. 2021'de Chicago Üniversitesi Veri Bilimi Enstitüsü ve Princeton Üniversitesi, İnternet sansürünü izlemek ve tespit etmek için gerçek zamanlı bir araç oluşturma planlarını yayınladı. Projenin nihai hedefi, diplomatlar, politika yapıcılar ve bilim adamı olmayanlar dahil olmak üzere veri kullanıcılarına ek izleme yetenekleri ve gösterge tabloları sağlamaktır. Ekip, sansür için gerçek zamanlı bir “hava durumu haritasına” sahip olmayı planlıyor, böylece gözlemciler neredeyse anında İnternet müdahalesini görebilirler. Bu özellik, hükümetlerin manipüle ettiği ülkeleri ve siteleri veya içeriği içerir.

Sansür ve yapay zekanın etkileri

Sansür ve yapay zekanın daha geniş sonuçları şunları içerebilir:

Siber suçlular, sansürlü bilgileri yakalamak ve manipüle etmek için sansür kuruluşlarını hackliyor.
Sansür ve diğer bilgi manipülasyonlarını tespit edebilen araçlar için artan yatırımlar ve araştırmalar.
Sosyal medya platformları, içeriği denetlemek için algoritmalarını mükemmelleştirmeye devam ediyor. Ancak, bu artan kendi kendini denetleme, birçok kullanıcıyı yabancılaştırabilir.
Toplumun hükümet yetkililerine ve haber medya kuruluşlarına karşı güvensizliğinde artış.
Bazı ulus devletler tarafından yerel medyayı ve haberleri kontrol etmek için kullanılmaya devam eden yapay zeka sistemleri, ilgili hükümetlerin aleyhine olan haberlerin kaldırılması da dahil.
Dijital stratejilerini çeşitli küresel internet düzenlemelerine uyacak şekilde uyarlayan işletmeler, daha yerelleştirilmiş ve bölümlere ayrılmış çevrimiçi hizmetlere yol açıyor.
Tüketicilerin sansürü önlemek için alternatif, merkezi olmayan platformlara yönelmesi, sosyal medya dinamiklerinde bir değişimi teşvik ediyor.
Dünya çapındaki politika yapıcılar, ifade özgürlüğünü engellemeden yapay zekayı sansürde düzenleme zorluğuyla boğuşuyor ve bu da çeşitli yasama yaklaşımlarına yol açıyor.