AI TRiSM: AI axloqiy bo'lib qolishini ta'minlash

• Muallif:
• Muallifning ismi

  Kvant davrini bashorat qilish
• Oktyabr 20, 2023

Aniq xulosa

2022-yilda Gartner tadqiqot firmasi AI modellarining boshqaruvi va ishonchliligini taʼminlash uchun AI Trust, Risk va Security Management degan maʼnoni anglatuvchi AI TRiSM ni taqdim etdi. Ramka beshta ustundan iborat: tushuntirish, model operatsiyalari, ma'lumotlar anomaliyalarini aniqlash, raqib hujumlariga qarshilik va ma'lumotlarni himoya qilish. Hisobotda ta'kidlanishicha, AI xatarlarini noto'g'ri boshqarish katta yo'qotishlarga va xavfsizlik buzilishiga olib kelishi mumkin. AI TRiSMni amalga oshirish qonunchilik, muvofiqlik, IT va maʼlumotlar tahlilidan iborat oʻzaro faoliyat guruhini talab qiladi. Ushbu tizim axloqiy va huquqiy muammolarga e'tibor qaratuvchi "Ma'suliyatli AI" madaniyatini shakllantirishga qaratilgan va ishga qabul qilish tendentsiyalari, hukumat qoidalari va sun'iy intellektdagi axloqiy jihatlarga ta'sir qilishi mumkin.

AI TRiSM konteksti

Gartner ma'lumotlariga ko'ra, AI TriSMning beshta ustuni mavjud: tushuntirish mumkinligi, Model operatsiyalari (ModelOps), ma'lumotlar anomaliyalarini aniqlash, raqib hujumiga qarshilik va ma'lumotlarni himoya qilish. Gartner prognozlariga asoslanib, ushbu ustunlarni amalga oshiruvchi tashkilotlar 50 yilga borib, AI modelining qabul qilinishi, biznes maqsadlari va foydalanuvchilarning qabul qilinishiga nisbatan 2026 foizga oshganiga guvoh bo'lishadi. Bundan tashqari, sun'iy intellekt bilan ishlaydigan mashinalar dunyodagi ishchi kuchining 20 foizini tashkil qiladi. va 40 yilga kelib umumiy iqtisodiy samaradorlikning 2028 foizini tashkil qiladi.

Gartner so‘rovi natijalari shuni ko‘rsatadiki, ko‘plab tashkilotlar IT rahbarlari tushuna olmaydigan yoki izohlay olmaydigan yuzlab yoki minglab AI modellarini joriy qilgan. Sun'iy intellekt bilan bog'liq xavflarni etarli darajada boshqara olmaydigan tashkilotlar noqulay oqibatlarga va buzilishlarga ko'proq moyil bo'ladi. Modellar mo'ljallanganidek ishlamasligi mumkin, bu xavfsizlik va maxfiylik buzilishiga, moliyaviy, shaxsiy va obro'ga putur etkazadi. Sun'iy intellektni noto'g'ri tatbiq etish ham tashkilotlarning noto'g'ri biznes qarorlar qabul qilishiga olib kelishi mumkin.

AI TRiSMni muvaffaqiyatli amalga oshirish uchun yuridik, muvofiqlik, xavfsizlik, IT va maʼlumotlar tahlili boʻyicha xodimlardan iborat oʻzaro faoliyat guruhi kerak. AI loyihasiga jalb qilingan har bir biznes sohasida tegishli vakillik bilan maxsus guruh yoki ishchi guruh yaratish ham eng yaxshi natijalarni beradi. Shuningdek, jamoaning har bir a’zosi o‘z roli va mas’uliyatini, shuningdek, AI TRiSM tashabbusining maqsad va vazifalarini aniq tushunishini ta’minlash juda muhim.

Buzg'unchi ta'sir

AIni xavfsiz qilish uchun Gartner bir nechta muhim qadamlarni tavsiya qiladi. Birinchidan, tashkilotlar AI bilan bog'liq potentsial xavflarni va ularni qanday kamaytirishni tushunishlari kerak. Ushbu sa'y-harakatlar nafaqat texnologiyaning o'zini, balki uning odamlarga, jarayonlarga va atrof-muhitga ta'sirini ham hisobga oladigan har tomonlama xavfni baholashni talab qiladi.

Ikkinchidan, tashkilotlar AI risklarini boshqarish siyosati, protseduralari va nazoratini o'z ichiga olgan AI boshqaruviga sarmoya kiritishi kerak. Ushbu strategiya AI tizimlarining shaffof, tushunarli, hisobdor va tegishli qonun va qoidalarga muvofiqligini ta'minlashni o'z ichiga oladi. Bundan tashqari, AI modellarining doimiy monitoringi va auditi vaqt o'tishi bilan yuzaga kelishi mumkin bo'lgan har qanday xavflarni aniqlash va kamaytirish uchun juda muhimdir. Va nihoyat, tashkilotlar AI xavfsizligi madaniyatini rivojlantirishi, xodimlar va manfaatdor tomonlar o'rtasida xabardorlikni, ta'limni va treningni rag'batlantirishi kerak. Ushbu qadamlar AIdan axloqiy foydalanish, sun'iy intellekt bilan bog'liq xavflar va muammolar yoki tashvishlarni qanday aniqlash va hisobot berish bo'yicha treningni o'z ichiga oladi. 

Ushbu sa'y-harakatlar, ehtimol, ko'proq kompaniyalarning mas'uliyatli AI bo'limlarini qurishiga olib keladi. Ushbu rivojlanayotgan boshqaruv tizimi AI bilan bog'liq huquqiy va axloqiy to'siqlarni tashkilotlarning ularga qanday yondashishini hujjatlashtirish orqali hal qiladi. Ramka va u bilan bog'liq tashabbuslar kutilmagan salbiy oqibatlarning oldini olish uchun noaniqlikni yo'q qilishni xohlaydi. Mas'uliyatli AI tizimi tamoyillari xodimlarga foyda keltiradigan, mijozlarga qiymat beradigan va jamiyatga ijobiy ta'sir ko'rsatadigan yo'llar bilan AIni loyihalash, rivojlantirish va ishlatishga qaratilgan.

AI TRiSM ning oqibatlari

AI TRiSM ning kengroq oqibatlari quyidagilarni o'z ichiga olishi mumkin: 

• AI TRiSM tobora muhim ahamiyat kasb etar ekan, kompaniyalar ushbu sohada bilimga ega bo'lgan ko'proq malakali ishchilarni, masalan, AI xavfsizligi bo'yicha tahlilchilar, risk menejerlari va axloqshunoslarni yollashlari kerak bo'ladi.
• AI tizimlaridan foydalanishda shaffoflik, adolat va javobgarlik zarurligi kabi yangi axloqiy va axloqiy mulohazalar.
• Xavfsiz, ishonchli va ishonchli bo'lgan sun'iy innovatsiyalar.
• Jismoniy shaxslar va tashkilotlarni AI tizimlari bilan bog'liq xavflardan himoya qilish uchun davlat tomonidan tartibga solish bosimi ortdi.
• AI tizimlari ma'lum guruhlar yoki shaxslarga nisbatan noxolis bo'lmasligini ta'minlashga ko'proq e'tibor qaratish.
• AI ko'nikmalariga ega bo'lganlar uchun yangi imkoniyatlar va ularsizlarni o'zgartirishi mumkin.
• Doimiy yangilanib turadigan o'quv ma'lumotlari uchun energiya iste'moli va ma'lumotlarni saqlash hajmi oshdi.
• Global Responsible AI standartlarini qabul qilmagani uchun ko'proq kompaniyalar jarimaga tortilmoqda.

Ko'rib chiqilishi kerak bo'lgan savollar

• Agar siz AIda ishlasangiz, kompaniyangiz o'z algoritmlarini axloqiy bo'lishga qanday o'rgatadi?
• Mas'uliyatli AI tizimlarini yaratishda qanday qiyinchiliklar mavjud?