AI TRiSM: Yapay zekanın etik kalmasını sağlamak

• Yazar:
• Yazar adı

  Kuantumrun Öngörüsü
• 20 Ekim 2023

Analiz özeti

2022 yılında araştırma firması Gartner, yapay zeka modellerinin yönetişimini ve güvenilirliğini sağlamak için Yapay Zeka Güven, Risk ve Güvenlik Yönetimi anlamına gelen AI TRiSM'yi tanıttı. Çerçeve beş sütundan oluşur: açıklanabilirlik, model işlemleri, veri anormalliğinin tespiti, düşman saldırılarına karşı direnç ve veri koruması. Rapor, yapay zeka risklerinin kötü yönetilmesinin önemli kayıplara ve güvenlik ihlallerine yol açabileceğini vurguluyor. AI TRiSM'nin uygulanması, hukuk, uyumluluk, BT ve veri analitiğinden oluşan işlevler arası bir ekip gerektirir. Çerçeve, etik ve yasal kaygılara odaklanan bir "Sorumlu Yapay Zeka" kültürü oluşturmayı amaçlamaktadır ve muhtemelen işe alım eğilimlerini, hükümet düzenlemelerini ve yapay zekadaki etik hususları etkileyecektir.

AI TRiSM bağlamı

Gartner'a göre AI TriSM'nin beş temel dayanağı var: açıklanabilirlik, Model Operasyonları (ModelOps), veri anormalliği tespiti, düşman saldırılarına karşı dayanıklılık ve veri koruması. Gartner'ın öngörülerine göre, bu temelleri uygulayan kuruluşlar, 50 yılına kadar benimseme, iş hedefleri ve kullanıcı kabulü açısından yapay zeka modeli performanslarında yüzde 2026'lik bir artışa tanık olacak. Ayrıca yapay zeka destekli makineler, dünyadaki iş gücünün yüzde 20'sini oluşturacak. ve 40 yılına kadar genel ekonomik üretkenliğin yüzde 2028'ına katkıda bulunacaklar.

Gartner'ın araştırmasının bulguları, birçok kuruluşun, BT yöneticilerinin anlayamadığı veya yorumlayamadığı yüzlerce veya binlerce yapay zeka modelini uygulamaya koyduğunu gösteriyor. Yapay zeka ile ilgili riskleri yeterince yönetemeyen kuruluşlar, olumsuz sonuçlarla ve ihlallerle karşılaşmaya önemli ölçüde daha yatkındır. Modeller amaçlandığı gibi çalışmayabilir, güvenlik ve gizlilik ihlallerine ve finansal, bireysel ve itibar kaybına yol açabilir. Yapay zekanın yanlış uygulanması kuruluşların yanlış yönlendirilmiş iş kararları almasına da neden olabilir.

AI TRiSM'yi başarılı bir şekilde uygulamak için hukuk, uyumluluk, güvenlik, BT ve veri analitiği personelinden oluşan işlevler arası bir ekip gereklidir. Yapay zeka projesine dahil olan her iş alanından uygun şekilde temsil edilen özel bir ekip veya görev gücü oluşturmak da en iyi sonuçları verecektir. Ayrıca her ekip üyesinin kendi rollerini ve sorumluluklarının yanı sıra AI TRiSM girişiminin amaç ve hedeflerini açıkça anlamasını sağlamak da önemlidir.

Yıkıcı etki

Yapay zekayı güvenli hale getirmek için Gartner birkaç hayati adım öneriyor. Öncelikle kuruluşların yapay zekayla ilişkili potansiyel riskleri ve bunların nasıl azaltılabileceğini kavraması gerekiyor. Bu çaba, yalnızca teknolojinin kendisini değil aynı zamanda insanlar, süreçler ve çevre üzerindeki etkisini de dikkate alan kapsamlı bir risk değerlendirmesi gerektirir.

İkincisi, kuruluşların yapay zeka risklerini yönetmeye yönelik politikaları, prosedürleri ve kontrolleri içeren yapay zeka yönetişimine yatırım yapması gerekir. Bu strateji, yapay zeka sistemlerinin şeffaf, açıklanabilir, hesap verebilir olmasını ve ilgili yasa ve düzenlemelere uygun olmasını sağlamayı içerir. Ek olarak, yapay zeka modellerinin sürekli izlenmesi ve denetlenmesi, zaman içinde ortaya çıkabilecek potansiyel risklerin belirlenmesi ve azaltılması açısından çok önemlidir. Son olarak kuruluşların, çalışanlar ve paydaşlar arasında farkındalığı, eğitimi ve öğretimi teşvik ederek bir yapay zeka güvenliği kültürü geliştirmeleri gerekiyor. Bu adımlar, yapay zekanın etik kullanımı, yapay zekayla ilişkili riskler ve sorunların veya endişelerin nasıl belirlenip raporlanacağına ilişkin eğitimi içerir. 

Bu çabalar muhtemelen daha fazla şirketin Sorumlu Yapay Zeka departmanlarını kurmasıyla sonuçlanacaktır. Ortaya çıkan bu yönetişim çerçevesi, kuruluşların yapay zekaya nasıl yaklaştıklarını belgeleyerek yapay zekayla ilgili yasal ve etik engelleri ele alıyor. Çerçeve ve ilgili girişimler, istenmeyen olumsuz sonuçları önlemek için belirsizliği ortadan kaldırmayı amaçlamaktadır. Sorumlu Yapay Zeka çerçevesinin ilkeleri, yapay zekayı çalışanlara fayda sağlayacak, müşterilere değer sağlayacak ve toplumu olumlu yönde etkileyecek şekilde tasarlamaya, geliştirmeye ve kullanmaya odaklanır.

AI TRiSM'nin Etkileri

AI TRiSM'nin daha geniş etkileri şunları içerebilir: 

• AI TRiSM giderek daha önemli hale geldikçe şirketlerin, AI güvenlik analistleri, risk yöneticileri ve etik uzmanları gibi bu alanda bilgili daha vasıflı çalışanları işe alması gerekecek.
• Yapay zeka sistemlerinin kullanımında şeffaflık, adalet ve hesap verebilirlik ihtiyacı gibi yeni etik ve ahlaki hususlar.
• Güvenli, güvenilir ve güvenilir, yapay zeka destekli yenilikler.
• Bireyleri ve kuruluşları yapay zeka sistemleriyle ilişkili risklerden korumaya yönelik hükümet düzenlemeleri üzerindeki artan baskı.
• Yapay zeka sistemlerinin belirli gruplara veya bireylere karşı önyargılı olmamasını sağlamaya daha fazla odaklanılması.
• Yapay zeka becerilerine sahip olanlar ve potansiyel olarak bu becerilere sahip olmayanları yerinden edenler için yeni fırsatlar.
• Sürekli güncellenen eğitim verileri için artan enerji tüketimi ve veri depolama kapasitesi.
• Küresel Sorumlu Yapay Zeka standartlarını benimsemedikleri için daha fazla şirket para cezasına çarptırılıyor.

Dikkate alınması gereken sorular

• Yapay zeka alanında çalışıyorsanız şirketiniz algoritmalarını etik olacak şekilde nasıl eğitiyor?
• Sorumlu yapay zeka sistemleri oluşturmanın zorlukları nelerdir?