AI TRiSM: Mastikeun yén AI tetep étika

• Author:
• Ngaran pangarang

  Quantumrun tetempoan
• Oktober 20, 2023

Ringkesan wawasan

Dina 2022, firma riset Gartner ngenalkeun AI TRiSM, nangtung pikeun AI Trust, Risk, and Security Management, pikeun mastikeun pamaréntahan sareng réliabilitas modél AI. kerangka diwangun ku lima pilar: explainability, operasi model, deteksi anomali data, lalawanan ka serangan adversarial, sarta panyalindungan data. Laporan éta nunjukkeun yén manajemén résiko AI anu goréng tiasa nyababkeun karugian anu signifikan sareng pelanggaran kaamanan. Nerapkeun AI TRiSM merlukeun tim cross-fungsi tina hukum, patuh, IT, sarta analytics data. Kerangka ieu tujuanana pikeun ngawangun budaya "AI Bertanggung Jawab," fokus kana masalah etika sareng hukum, sareng kamungkinan mangaruhan tren nyewa, peraturan pamaréntah, sareng pertimbangan etika dina AI.

konteks AI TRiSM

Numutkeun Gartner, aya lima pilar pikeun AI TriSM: explainability, Model Operations (ModelOps), deteksi anomali data, résistansi serangan adversarial, sareng panyalindungan data. Dumasar kana unjuran Gartner, organisasi anu ngalaksanakeun pilar ieu bakal nyaksian paningkatan 50 persén dina kinerja modél AI maranéhanana anu aya hubunganana sareng adopsi, tujuan bisnis, sareng katampi pangguna ku 2026. Salaku tambahan, mesin anu didamel ku AI bakal ngadamel 20 persén tenaga kerja di dunya. sareng nyumbangkeun 40 persén produktivitas ékonomi sadayana ku 2028.

Papanggihan survéy Gartner nunjukkeun yén seueur organisasi parantos ngalaksanakeun ratusan atanapi rébuan modél AI anu teu tiasa dipahami atanapi diinterpretasi ku eksekutif IT. Organisasi anu henteu cekap ngatur résiko anu aya hubunganana sareng AI sacara signifikan langkung rentan ngalaman hasil sareng pelanggaran anu henteu nguntungkeun. Model bisa jadi teu boga fungsi sakumaha dimaksudkeun, ngabalukarkeun palanggaran kaamanan jeung privasi, sarta ngarugikeun finansial, individu, sarta reputasi. Palaksanaan AI anu teu akurat ogé tiasa nyababkeun organisasi nyandak kaputusan bisnis anu salah.

Pikeun suksés ngalaksanakeun AI TRiSM, tim cross-fungsi tina hukum, patuh, kaamanan, IT, sareng tanaga analitik data diperyogikeun. Ngadegkeun tim khusus atanapi pasukan tugas kalayan perwakilan anu leres ti unggal daérah bisnis anu kalibet dina proyék AI ogé bakal ngahasilkeun hasil anu optimal. Éta ogé penting pikeun mastikeun yén unggal anggota tim jelas ngartos kalungguhan sareng tanggung jawabna, ogé tujuan sareng tujuan inisiatif AI TRiSM.

Dampak ngaganggu

Pikeun ngajantenkeun AI aman, Gartner nyarankeun sababaraha léngkah penting. Kahiji, organisasi kudu nangkep resiko poténsi pakait sareng AI sarta kumaha carana mitigate aranjeunna. Usaha ieu ngabutuhkeun penilaian résiko anu komprehensif anu nganggap henteu ngan ukur téknologi éta sorangan tapi ogé dampakna kana jalma, prosés, sareng lingkungan.

Kadua, organisasi kedah investasi dina pamaréntahan AI, anu kalebet kawijakan, prosedur, sareng kadali pikeun ngatur résiko AI. Strategi ieu kalebet mastikeun yén sistem AI transparan, tiasa dijelaskeun, akuntabel, sareng patuh kana undang-undang sareng peraturan anu relevan. Salaku tambahan, ngawaskeun sareng pamariksaan modél AI penting pisan pikeun ngaidentipikasi sareng ngirangan résiko poténsial anu timbul dina waktosna. Tungtungna, organisasi kedah ngembangkeun budaya kaamanan AI, promosi kasadaran, pendidikan, sareng pelatihan diantara karyawan sareng pamangku kapentingan. Léngkah-léngkah ieu kalebet palatihan ngeunaan pamakean etika AI, résiko anu aya hubunganana sareng AI, sareng cara ngaidentipikasi sareng ngalaporkeun masalah atanapi masalah. 

Usaha ieu sigana bakal nyababkeun langkung seueur perusahaan ngawangun departemén AI Tanggung Jawabna. Kerangka governance anu muncul ieu ngabéréskeun halangan hukum sareng étika anu aya hubunganana sareng AI ku ngadokumentasikeun kumaha organisasi ngadeukeutan aranjeunna. Kerangka sareng inisiatif anu aya hubunganana hoyong ngaleungitkeun ambiguitas pikeun nyegah akibat négatip anu teu dihaja. Prinsip kerangka AI Tanggung Jawab museurkeun kana ngarancang, ngamekarkeun, sareng ngagunakeun AI ku cara anu nguntungkeun karyawan, masihan nilai ka konsumén, sareng mangaruhan positip masarakat.

Implikasi AI TRiSM

Implikasi anu langkung ageung tina AI TRiSM tiasa kalebet: 

• Nalika AI TRiSM janten langkung penting, perusahaan kedah nyéwa pagawé anu langkung terampil dina widang ieu, sapertos analis kaamanan AI, manajer résiko, sareng ahli étika.
• Pertimbangan etika sareng moral anyar, sapertos kabutuhan transparansi, kaadilan, sareng akuntabilitas dina ngagunakeun sistem AI.
• Inovasi AI-augmented anu aman, dipercaya, sareng dipercaya.
• Ningkatkeun tekanan pikeun pangaturan pamaréntah pikeun ngajagi individu sareng organisasi tina résiko anu aya hubunganana sareng sistem AI.
• Fokus anu langkung ageung pikeun mastikeun yén sistem AI henteu bias ngalawan grup atanapi individu tinangtu.
• Kasempetan anyar pikeun anu gaduh kaahlian AI sareng berpotensi ngagentoskeun anu teu aya.
• Ningkatkeun konsumsi énérgi sareng kapasitas panyimpen data pikeun data pelatihan anu terus diropéa.
• Langkung seueur perusahaan anu didenda kusabab henteu ngadopsi standar AI Tanggung Jawab global.

Patarosan anu kedah diperhatoskeun

• Upami anjeun damel di AI, kumaha perusahaan anjeun ngalatih algoritmana janten étika?
• Naon tantangan ngawangun sistem AI Tanggung Jawab?