AI TRiSM: Süni intellektin etik olaraq qalmasını təmin etmək

• Author:
• Author adı

  Quantumrun Uzaqgörməsi
• Oktyabr 20, 2023

Anlayış xülasəsi

2022-ci ildə Gartner tədqiqat şirkəti süni intellekt modellərinin idarə olunmasını və etibarlılığını təmin etmək üçün AI Trust, Risk və Security Management mənasını verən AI TRiSM təqdim etdi. Çərçivə beş sütundan ibarətdir: izah edilə bilənlik, model əməliyyatları, məlumat anomaliyalarının aşkarlanması, düşmən hücumlarına qarşı müqavimət və məlumatların qorunması. Hesabatda vurğulanır ki, AI risklərinin zəif idarə edilməsi əhəmiyyətli itkilərə və təhlükəsizlik pozuntularına səbəb ola bilər. AI TRiSM-in tətbiqi hüquq, uyğunluq, İT və məlumat analitikasından ibarət çarpaz funksional komanda tələb edir. Çərçivə etik və hüquqi narahatlıqlara diqqət yetirərək "Məsuliyyətli AI" mədəniyyətini formalaşdırmaq məqsədi daşıyır və işə qəbul tendensiyalarına, hökumət qaydalarına və AI-də etik mülahizələrə təsir göstərə bilər.

AI TRiSM konteksti

Gartner-ə görə, AI TriSM-in beş sütunu var: izah edilə bilənlik, Model Əməliyyatları (ModelOps), məlumat anomaliyalarının aşkarlanması, rəqib hücumlara qarşı müqavimət və məlumatların qorunması. Gartner-in proqnozlarına əsasən, bu sütunları həyata keçirən təşkilatlar 50-cı ilə qədər AI modelinin mənimsənilməsi, biznes məqsədləri və istifadəçinin qəbulu ilə bağlı performansında 2026 faiz artımın şahidi olacaqlar. Bundan əlavə, süni intellektlə işləyən maşınlar dünya işçi qüvvəsinin 20 faizini təşkil edəcək. və 40-ci ilə qədər ümumi iqtisadi məhsuldarlığın 2028 faizini təşkil edir.

Gartner-in sorğusunun nəticələri göstərir ki, bir çox təşkilat İT rəhbərlərinin anlaya bilmədiyi və şərh edə bilmədiyi yüzlərlə və ya minlərlə süni intellekt modelini tətbiq edib. Süni intellektlə əlaqəli riskləri adekvat idarə etməyən təşkilatlar əlverişsiz nəticələr və pozuntularla qarşılaşmağa daha çox meyllidirlər. Modellər nəzərdə tutulduğu kimi işləməyə bilər ki, bu da təhlükəsizlik və məxfiliyin pozulmasına, maliyyə, fərdi və nüfuza ziyan vura bilər. AI-nin qeyri-dəqiq tətbiqi təşkilatların yanlış biznes qərarları qəbul etməsinə də səbəb ola bilər.

AI TRiSM-ni uğurla həyata keçirmək üçün hüquq, uyğunluq, təhlükəsizlik, İT və məlumat analitikası işçilərindən ibarət çarpaz funksional komanda tələb olunur. Süni intellekt layihəsində iştirak edən hər bir biznes sahəsindən müvafiq təmsilçiliyə malik xüsusi komanda və ya işçi qrupun yaradılması da optimal nəticələr verəcək. Hər bir komanda üzvünün öz rollarını və məsuliyyətlərini, həmçinin AI TRiSM təşəbbüsünün məqsəd və vəzifələrini aydın şəkildə başa düşməsini təmin etmək də vacibdir.

Dağıdıcı təsir

Süni intellektin təhlükəsiz olması üçün Gartner bir neçə vacib addımı tövsiyə edir. Birincisi, təşkilatlar süni intellektlə bağlı potensial riskləri və onların azaldılması yollarını dərk etməlidir. Bu səy təkcə texnologiyanın özünü deyil, həm də insanlara, proseslərə və ətraf mühitə təsirini nəzərə alan hərtərəfli risk qiymətləndirməsini tələb edir.

İkincisi, təşkilatlar AI risklərini idarə etmək üçün siyasətləri, prosedurları və nəzarətləri özündə cəmləşdirən AI idarəçiliyinə sərmayə qoymalıdırlar. Bu strategiya süni intellekt sistemlərinin şəffaf, izahlı, hesabatlı olmasını və müvafiq qanun və qaydalara uyğun olmasını təmin etməyi əhatə edir. Bundan əlavə, süni intellekt modellərinin davamlı monitorinqi və auditi zamanla yarana biləcək potensial riskləri müəyyən etmək və azaltmaq üçün çox vacibdir. Nəhayət, təşkilatlar AI təhlükəsizliyi mədəniyyətini inkişaf etdirməli, işçilər və maraqlı tərəflər arasında məlumatlılığı, təhsili və təlimi təşviq etməlidir. Bu addımlara süni intellektdən etik istifadə, süni intellektlə bağlı risklər və problemləri və ya narahatlıqları necə müəyyənləşdirmək və bildirmək barədə təlim daxildir. 

Bu səylər çox güman ki, daha çox şirkətin öz Məsul AI departamentlərini qurması ilə nəticələnəcək. Bu inkişaf etməkdə olan idarəetmə çərçivəsi təşkilatların onlara necə yanaşdığını sənədləşdirməklə AI ilə bağlı hüquqi və etik maneələri həll edir. Çərçivə və onunla əlaqəli təşəbbüslər gözlənilməz mənfi nəticələrin qarşısını almaq üçün qeyri-müəyyənliyi aradan qaldırmaq istəyir. Məsuliyyətli AI çərçivəsinin prinsipləri işçilərə fayda gətirən, müştərilərə dəyər verən və cəmiyyətə müsbət təsir göstərən yollarla süni intellektin layihələndirilməsi, inkişaf etdirilməsi və istifadəsinə yönəlmişdir.

AI TRiSM-in nəticələri

AI TRiSM-in daha geniş təsirlərinə aşağıdakılar daxil ola bilər: 

• AI TRiSM getdikcə əhəmiyyət kəsb etdikcə şirkətlər süni intellekt üzrə təhlükəsizlik analitikləri, risk menecerləri və etika mütəxəssisləri kimi bu sahədə bilikli daha təcrübəli işçiləri işə götürməli olacaqlar.
• Süni intellekt sistemlərindən istifadə zamanı şəffaflıq, ədalətlilik və hesabatlılığa ehtiyac kimi yeni etik və əxlaqi mülahizələr.
• Təhlükəsiz, etibarlı və etibarlı olan süni innovasiya ilə gücləndirilmiş yeniliklər.
• Fərdləri və təşkilatları süni intellekt sistemləri ilə bağlı risklərdən qorumaq üçün dövlət tənzimlənməsi üçün artan təzyiq.
• Süni intellekt sistemlərinin müəyyən qruplara və ya şəxslərə qarşı qərəzli olmamasının təmin edilməsinə daha çox diqqət yetirilir.
• Süni intellekt bacarıqlarına malik olanlar üçün yeni imkanlar və bu bacarıqları olmayanları potensial olaraq yerindən sökə bilər.
• Daim yenilənən təlim məlumatları üçün artan enerji istehlakı və məlumat saxlama qabiliyyəti.
• Qlobal Responsible AI standartlarını qəbul etmədiyinə görə daha çox şirkət cərimələnir.

Nəzərə alınmalı suallar

• Əgər süni intellektdə işləyirsinizsə, şirkətiniz alqoritmlərini etik olmaq üçün necə öyrədir?
• Məsul AI sistemlərinin qurulmasında hansı çətinliklər var?