AI TRiSM: Mesthekake yen AI tetep etis

• Babagan Author:
• Jeneng panganggit

  Quantumrun Foresight
• Oktober 20, 2023

Ringkesan wawasan

Ing taun 2022, firma riset Gartner ngenalake AI TRiSM, kanthi jeneng AI Trust, Risk, and Security Management, kanggo njamin tata kelola lan linuwih model AI. Kerangka kasebut kasusun saka limang pilar: penjelasan, operasi model, deteksi anomali data, resistensi marang serangan musuh, lan proteksi data. Laporan kasebut nyoroti manawa manajemen risiko AI sing ora apik bisa nyebabake kerugian sing signifikan lan pelanggaran keamanan. Ngleksanakake AI TRiSM mbutuhake tim lintas fungsi saka analisis legal, kepatuhan, IT, lan data. Kerangka kasebut nduweni tujuan kanggo mbangun budaya "AI sing Tanggung Jawab," fokus ing masalah etika lan hukum, lan bisa uga mengaruhi tren perekrutan, peraturan pemerintah, lan pertimbangan etika ing AI.

konteks AI TRiSM

Miturut Gartner, ana limang pilar kanggo AI TriSM: penjelasan, Operasi Model (ModelOps), deteksi anomali data, resistensi serangan musuh, lan perlindungan data. Adhedhasar proyeksi Gartner, organisasi sing ngetrapake pilar kasebut bakal nyekseni peningkatan 50 persen ing kinerja model AI sing ana gandhengane karo adopsi, tujuan bisnis, lan pangguna pangguna ing taun 2026. Kajaba iku, mesin sing didhukung AI bakal nggawe 20 persen tenaga kerja ing saindenging jagad. lan nyumbang 40 persen produktivitas ekonomi sakabèhé ing taun 2028.

Panemuan survey Gartner nuduhake manawa akeh organisasi wis ngetrapake atusan utawa ewu model AI sing ora bisa dingerteni utawa diinterpretasikake dening eksekutif IT. Organisasi sing ora cukup ngatur risiko sing gegandhengan karo AI luwih rentan nemoni asil lan pelanggaran sing ora becik. Model kasebut bisa uga ora bisa digunakake kaya sing dikarepake, nyebabake pelanggaran keamanan lan privasi, lan cilaka finansial, individu, lan reputasi. Implementasi AI sing ora akurat uga bisa nyebabake organisasi nggawe keputusan bisnis sing salah.

Kanggo sukses ngleksanakake AI TRiSM, tim lintas-fungsi saka personel legal, kepatuhan, keamanan, IT, lan analitik data dibutuhake. Nggawe tim khusus utawa pasukan tugas kanthi perwakilan sing tepat saka saben area bisnis sing melu proyek AI uga bakal ngasilake asil sing optimal. Sampeyan uga penting kanggo mesthekake yen saben anggota tim ngerti kanthi jelas peran lan tanggung jawabe, uga tujuan lan tujuan inisiatif AI TRiSM.

Dampak gangguan

Kanggo nggawe AI aman, Gartner nyaranake sawetara langkah penting. Kaping pisanan, organisasi kudu ngerteni risiko potensial sing ana gandhengane karo AI lan cara nyuda. Upaya iki mbutuhake penilaian risiko sing komprehensif sing nimbang ora mung teknologi kasebut dhewe nanging uga pengaruhe marang manungsa, proses, lan lingkungan.

Kapindho, organisasi kudu nandur modal ing tata kelola AI, sing kalebu kabijakan, prosedur, lan kontrol kanggo ngatur risiko AI. Strategi iki kalebu mesthekake yen sistem AI transparan, bisa diterangake, tanggung jawab, lan tundhuk karo hukum lan peraturan sing relevan. Kajaba iku, ngawasi lan audit model AI sing terus-terusan penting kanggo ngenali lan nyuda resiko potensial sing bisa kedadeyan saka wektu. Pungkasan, organisasi kudu ngembangake budaya safety AI, ningkatake kesadaran, pendhidhikan, lan pelatihan ing antarane karyawan lan para pemangku kepentingan. Langkah-langkah kasebut kalebu latihan babagan panggunaan etika AI, risiko sing ana gandhengane karo AI, lan cara ngenali lan nglaporake masalah utawa keprihatinan. 

Upaya kasebut bakal nyebabake luwih akeh perusahaan mbangun departemen AI sing Tanggung Jawab. Kerangka tata kelola sing anyar iki ngatasi alangan hukum lan etika sing ana gandhengane karo AI kanthi ndokumentasikake cara organisasi nyedhaki. Kerangka lan inisiatif sing ana gandhengane pengin ngilangi ambiguitas kanggo nyegah akibat negatif sing ora disengaja. Prinsip kerangka AI Tanggung Jawab fokus kanggo ngrancang, ngembangake, lan nggunakake AI kanthi cara sing nguntungake karyawan, menehi nilai kanggo pelanggan, lan menehi pengaruh positif marang masyarakat.

Implikasi AI TRiSM

Implikasi AI TRiSM sing luwih akeh bisa uga kalebu: 

• Amarga AI TRiSM dadi saya penting, perusahaan kudu nyewa tenaga kerja sing luwih trampil ing bidang iki, kayata analis keamanan AI, manajer risiko, lan ahli etika.
• Pertimbangan etika lan moral anyar, kayata kabutuhan transparansi, keadilan, lan akuntabilitas nggunakake sistem AI.
• Inovasi sing ditambahi AI sing aman, dipercaya, lan dipercaya.
• Nambah tekanan kanggo peraturan pemerintah kanggo nglindhungi individu lan organisasi saka risiko sing ana gandhengane karo sistem AI.
• Fokus sing luwih gedhe kanggo mesthekake yen sistem AI ora bias marang klompok utawa individu tartamtu.
• Kesempatan anyar kanggo sing duwe katrampilan AI lan duweni potensi ngganti sing ora duwe.
• Nambah konsumsi energi lan kapasitas panyimpenan data kanggo data latihan sing terus dianyari.
• Luwih akeh perusahaan sing didenda amarga ora ngetrapake standar AI tanggung jawab global.

Pitakon sing kudu dipikirake

• Yen sampeyan kerja ing AI, kepiye perusahaan sampeyan nglatih algoritma supaya etis?
• Apa tantangan kanggo mbangun sistem AI sing Tanggung Jawab?