AI TRiSM: Niżguraw li l-AI tibqa' etika

• awtur:
• isem awtur

  Quantumrun Foresight
• Ottubru 20, 2023

Sommarju tal-għarfien

Fl-2022, id-ditta ta’ riċerka Gartner introduċiet AI TRiSM, li tirrappreżenta AI Trust, Risk, and Security Management, biex tiżgura l-governanza u l-affidabbiltà tal-mudelli tal-AI. Il-qafas jikkonsisti f'ħames pilastri: spjegazzjoni, operazzjonijiet tal-mudell, skoperta ta' anomaliji tad-dejta, reżistenza għal attakki kontradittorji, u protezzjoni tad-dejta. Ir-rapport jenfasizza li ġestjoni ħażina tar-riskji tal-IA tista’ twassal għal telf sinifikanti u ksur tas-sigurtà. L-implimentazzjoni tal-AI TRiSM teħtieġ tim transfunzjonali minn analitika legali, ta’ konformità, tal-IT u tad-dejta. Il-qafas għandu l-għan li jibni kultura ta' "AI Responsabbli", li tiffoka fuq tħassib etiku u legali, u x'aktarx li jinfluwenza t-tendenzi tal-kiri, ir-regolamenti tal-gvern u l-kunsiderazzjonijiet etiċi fl-AI.

AI TRiSM kuntest

Skont Gartner, hemm ħames pilastri għall-AI TriSM: spjegazzjoni, Operazzjonijiet tal-Mudell (ModelOps), skoperta ta 'anomalija tad-dejta, reżistenza għall-attakki kontradittorji, u protezzjoni tad-dejta. Fuq il-bażi tal-projezzjonijiet ta’ Gartner, l-organizzazzjonijiet li jimplimentaw dawn il-pilastri se jaraw spinta ta’ 50 fil-mija fil-prestazzjoni tal-mudell AI tagħhom fir-rigward tal-adozzjoni, l-għanijiet tan-negozju, u l-aċċettazzjoni tal-utent sal-2026. Barra minn hekk, magni li jaħdmu bl-AI se jiffurmaw 20 fil-mija tal-forza tax-xogħol tad-dinja u jikkontribwixxu 40 fil-mija tal-produttività ekonomika ġenerali sal-2028.

Is-sejbiet tal-istħarriġ ta’ Gartner jissuġġerixxu li ħafna organizzazzjonijiet implimentaw mijiet jew eluf ta’ mudelli AI li l-eżekuttivi tal-IT ma jistgħux jifhmu jew jinterpretaw. Organizzazzjonijiet li ma jimmaniġġjawx b'mod adegwat ir-riskji relatati mal-IA huma ferm aktar suxxettibbli li jiltaqgħu ma' riżultati u ksur mhux favorevoli. Il-mudelli jistgħu ma jaħdmux kif maħsub, u jwassal għal ksur tas-sigurtà u tal-privatezza, u ħsara finanzjarja, individwali u għar-reputazzjoni. L-implimentazzjoni mhux preċiża tal-IA tista’ wkoll tikkawża lill-organizzazzjonijiet biex jieħdu deċiżjonijiet kummerċjali żbaljati.

Biex timplimenta b'suċċess l-AI TRiSM, huwa meħtieġ tim trans-funzjonali ta' persunal legali, ta' konformità, ta' sigurtà, IT u analitiku tad-dejta. It-twaqqif ta’ tim dedikat jew task force b’rappreżentanza xierqa minn kull qasam tan-negozju involut fil-proġett AI se jagħti wkoll riżultati ottimali. Huwa wkoll essenzjali li jiġi żgurat li kull membru tat-tim jifhem b'mod ċar ir-rwoli u r-responsabbiltajiet tiegħu, kif ukoll l-għanijiet u l-għanijiet tal-inizjattiva AI TRiSM.

Impatt li jfixkel

Biex tagħmel l-AI sigura, Gartner jirrakkomanda diversi passi vitali. L-ewwel, l-organizzazzjonijiet jeħtieġ li jifhmu r-riskji potenzjali assoċjati mal-IA u kif itaffuhom. Dan l-isforz jeħtieġ valutazzjoni tar-riskju komprensiva li tikkunsidra mhux biss it-teknoloġija nnifisha iżda wkoll l-impatt tagħha fuq in-nies, il-proċessi u l-ambjent.

It-tieni, l-organizzazzjonijiet jeħtieġ li jinvestu fil-governanza tal-AI, li tinkludi politiki, proċeduri u kontrolli għall-ġestjoni tar-riskji tal-AI. Din l-istrateġija tinkludi l-iżgurar li s-sistemi tal-IA jkunu trasparenti, spjegabbli, responsabbli, u jikkonformaw mal-liġijiet u r-regolamenti rilevanti. Barra minn hekk, il-monitoraġġ u l-awditjar kontinwi tal-mudelli tal-IA huma kruċjali biex jiġi identifikat u mitigat kwalunkwe riskju potenzjali li jista’ jinqala’ maż-żmien. Fl-aħħar nett, l-organizzazzjonijiet jeħtieġ li jiżviluppaw kultura ta’ sikurezza tal-IA, li jippromwovu l-kuxjenza, l-edukazzjoni u t-taħriġ fost l-impjegati u l-partijiet interessati. Dawn il-passi jinkludu taħriġ dwar l-użu etiku tal-AI, ir-riskji assoċjati mal-AI, u kif jiġu identifikati u rappurtati kwistjonijiet jew tħassib. 

Dawn l-isforzi x'aktarx se jirriżultaw f'aktar kumpaniji li jibnu d-dipartimenti AI Responsabbli tagħhom. Dan il-qafas ta’ governanza emerġenti jindirizza l-ostakli legali u etiċi relatati mal-IA billi jiddokumenta kif l-organizzazzjonijiet javviċinawhom. Il-qafas u l-inizjattivi assoċjati tiegħu jridu jeliminaw l-ambigwità biex jipprevjenu konsegwenzi negattivi mhux intenzjonati. Il-prinċipji ta’ qafas ta’ AI Responsabbli jiffokaw fuq it-tfassil, l-iżvilupp u l-użu tal-AI b’modi li jibbenefikaw lill-impjegati, jipprovdu valur lill-klijenti, u jkollhom impatt pożittiv fuq is-soċjetà.

Implikazzjonijiet tal-AI TRiSM

Implikazzjonijiet usa' ta' AI TRiSM jistgħu jinkludu: 

• Hekk kif l-AI TRiSM issir dejjem aktar importanti, il-kumpaniji se jkollhom bżonn jimpjegaw aktar ħaddiema tas-sengħa li jkunu jafu f'dan il-qasam, bħall-analisti tas-sigurtà tal-AI, il-maniġers tar-riskju, u l-etikisti.
• Konsiderazzjonijiet etiċi u morali ġodda, bħall-ħtieġa għal trasparenza, ġustizzja, u responsabbiltà fl-użu tas-sistemi tal-IA.
• Innovazzjonijiet miżjuda bl-AI li huma siguri, affidabbli u affidabbli.
• Żieda fil-pressjoni għar-regolamentazzjoni tal-gvern biex tipproteġi individwi u organizzazzjonijiet minn riskji assoċjati mas-sistemi tal-IA.
• Fokus akbar fuq l-iżgurar li s-sistemi tal-IA ma jkunux preġudikati kontra gruppi jew individwi partikolari.
• Opportunitajiet ġodda għal dawk li għandhom ħiliet fl-IA u potenzjalment jissostitwixxu lil dawk mingħajrhom.
• Żieda fil-konsum tal-enerġija u l-kapaċità tal-ħażna tad-dejta għal data tat-taħriġ aġġornata kontinwament.
• Aktar kumpaniji qed jiġu mmultati talli ma adottawx standards globali ta’ AI Responsabbli.

Mistoqsijiet li għandek tikkunsidra

• Jekk taħdem fl-AI, il-kumpanija tiegħek kif qed tħarreġ l-algoritmi tagħha biex tkun etika?
• X'inhuma l-isfidi tal-bini ta' sistemi ta' AI Responsabbli?