AI TRiSM: Kuhakikisha kwamba AI inabaki kuwa ya kimaadili

• mwandishi:
• mwandishi jina

  Mtazamo wa Quantumrun
• Oktoba 20, 2023

Muhtasari wa maarifa

Mnamo 2022, kampuni ya utafiti ya Gartner ilianzisha AI TRiSM, ikisimamia AI Trust, Hatari, na Usimamizi wa Usalama, ili kuhakikisha utawala na uaminifu wa mifano ya AI. Mfumo huu una nguzo tano: kuelezeka, utendakazi wa modeli, ugunduzi wa hitilafu ya data, upinzani dhidi ya mashambulizi ya adui na ulinzi wa data. Ripoti inaangazia kwamba usimamizi duni wa hatari za AI unaweza kusababisha hasara kubwa na ukiukaji wa usalama. Utekelezaji wa AI TRiSM unahitaji timu inayofanya kazi mbalimbali kutoka kwa uchanganuzi wa kisheria, utiifu, IT na data. Mfumo huu unalenga kujenga utamaduni wa "AI inayowajibika," inayozingatia masuala ya kimaadili na kisheria, na ina uwezekano wa kuathiri mienendo ya uajiri, kanuni za serikali na kuzingatia maadili katika AI.

Muktadha wa AI TRiSM

Kulingana na Gartner, kuna nguzo tano za AI TriSM: kuelezeka, Uendeshaji wa Mfano (ModelOps), ugunduzi wa hitilafu ya data, upinzani dhidi ya mashambulizi na ulinzi wa data. Kulingana na makadirio ya Gartner, mashirika yanayotekeleza nguzo hizi yatashuhudia ongezeko la asilimia 50 katika utendaji wao wa muundo wa AI kuhusiana na kupitishwa, malengo ya biashara, na kukubalika kwa watumiaji ifikapo 2026. Zaidi ya hayo, mashine zinazotumia AI zitakuwa asilimia 20 ya wafanyakazi duniani. na kuchangia asilimia 40 ya tija ya jumla ya kiuchumi ifikapo 2028.

Matokeo ya uchunguzi wa Gartner yanapendekeza kuwa mashirika mengi yametekeleza mamia au maelfu ya miundo ya AI ambayo watendaji wa IT hawawezi kuelewa au kutafsiri. Mashirika ambayo hayadhibiti ipasavyo hatari zinazohusiana na AI yana uwezekano mkubwa wa kupata matokeo na ukiukaji usiofaa. Miundo hiyo inaweza isifanye kazi inavyokusudiwa, na hivyo kusababisha ukiukaji wa usalama na faragha, na madhara ya kifedha, ya mtu binafsi na ya sifa. Utekelezaji usio sahihi wa AI pia unaweza kusababisha mashirika kufanya maamuzi yasiyo sahihi ya biashara.

Ili kutekeleza AI TRiSM kwa ufanisi, timu ya wafanyikazi wa kisheria, utiifu, usalama, IT na uchanganuzi wa data inahitajika. Kuanzisha timu iliyojitolea au kikosi kazi chenye uwakilishi sahihi kutoka kwa kila eneo la biashara linalohusika katika mradi wa AI pia kutatoa matokeo bora. Pia ni muhimu kuhakikisha kwamba kila mwanatimu anaelewa vyema majukumu na wajibu wake, pamoja na malengo na malengo ya mpango wa AI TRiSM.

Athari ya usumbufu

Kufanya AI salama, Gartner anapendekeza hatua kadhaa muhimu. Kwanza, mashirika yanahitaji kufahamu hatari zinazoweza kuhusishwa na AI na jinsi ya kuzipunguza. Juhudi hizi zinahitaji tathmini ya kina ya hatari ambayo haizingatii tu teknolojia yenyewe bali pia athari zake kwa watu, michakato na mazingira.

Pili, mashirika yanahitaji kuwekeza katika usimamizi wa AI, ambayo inajumuisha sera, taratibu na udhibiti wa kudhibiti hatari za AI. Mkakati huu unajumuisha kuhakikisha kuwa mifumo ya AI ni wazi, inaelezeka, inawajibika, na inatii sheria na kanuni husika. Zaidi ya hayo, ufuatiliaji na ukaguzi unaoendelea wa miundo ya AI ni muhimu ili kutambua na kupunguza hatari zozote zinazoweza kutokea kwa muda. Hatimaye, mashirika yanahitaji kuendeleza utamaduni wa usalama wa AI, kukuza ufahamu, elimu, na mafunzo kati ya wafanyakazi na wadau. Hatua hizi ni pamoja na mafunzo juu ya matumizi ya kimaadili ya AI, hatari zinazohusiana na AI, na jinsi ya kutambua na kuripoti masuala au wasiwasi. 

Juhudi hizi zinaweza kusababisha kampuni zaidi kujenga idara zao za AI zinazowajibika. Mfumo huu wa utawala unaoibukia unashughulikia vikwazo vya kisheria na kimaadili vinavyohusiana na AI kwa kuandika jinsi mashirika yanavyovikabili. Mfumo na mipango yake inayohusishwa inataka kuondoa utata ili kuzuia matokeo mabaya yasiyotarajiwa. Kanuni za Mfumo wa Uwajibikaji wa AI huzingatia kubuni, kuendeleza, na kutumia AI kwa njia zinazowanufaisha wafanyakazi, kutoa thamani kwa wateja, na kuathiri vyema jamii.

Athari za AI TRiSM

Athari pana za AI TRiSM zinaweza kujumuisha: 

• Kadiri AI TRiSM inavyozidi kuwa muhimu, kampuni zitahitaji kuajiri wafanyikazi wenye ujuzi zaidi na ujuzi katika nyanja hii, kama vile wachanganuzi wa usalama wa AI, wasimamizi wa hatari na wana maadili.
• Mazingatio mapya ya kimaadili na kimaadili, kama vile hitaji la uwazi, haki, na uwajibikaji katika kutumia mifumo ya AI.
• Ubunifu ulioboreshwa na AI ambao ni salama, unaoaminika na unaotegemewa.
• Kuongezeka kwa shinikizo kwa udhibiti wa serikali kulinda watu binafsi na mashirika kutokana na hatari zinazohusiana na mifumo ya AI.
• Kuzingatia zaidi katika kuhakikisha kuwa mifumo ya AI haina upendeleo dhidi ya vikundi fulani au watu binafsi.
• Fursa mpya kwa wale walio na ujuzi wa AI na uwezekano wa kuwahamisha wasiokuwa nao.
• Kuongezeka kwa matumizi ya nishati na uwezo wa kuhifadhi data kwa data ya mafunzo iliyosasishwa kila mara.
• Makampuni zaidi yanatozwa faini kwa kutofuata viwango vya kimataifa vya Responsible AI.

Maswali ya kuzingatia

• Ikiwa unafanya kazi katika AI, kampuni yako inafunza vipi kanuni zake kuwa za kimaadili?
• Ni changamoto zipi za kujenga mifumo ya AI inayowajibika?