AI TRiSM: AI этикалық болып қалуын қамтамасыз ету

• автор:
• Автордың аты-жөні

  Кванттық болжау
• Қазан 20, 2023

Түсінікті қорытынды

2022 жылы Gartner зерттеу фирмасы AI үлгілерінің басқаруы мен сенімділігін қамтамасыз ету үшін AI Trust, Risk және Security Management дегенді білдіретін AI TRiSM енгізді. Рамка бес тіректен тұрады: түсіндіру, үлгі операциялары, деректер аномалиясын анықтау, қарсыластық шабуылдарына қарсы тұру және деректерді қорғау. Есепте AI тәуекелдерін нашар басқару маңызды шығындарға және қауіпсіздіктің бұзылуына әкелуі мүмкін екенін көрсетеді. AI TRiSM енгізу заңдылық, сәйкестік, АТ және деректерді талдаудан тұратын кросс-функционалды топты қажет етеді. Бұл құрылым этикалық және құқықтық мәселелерге назар аудара отырып, «Жауапты AI» мәдениетін қалыптастыруға бағытталған және жұмысқа қабылдау үрдістеріне, мемлекеттік ережелерге және AI-дағы этикалық ойларға әсер етуі мүмкін.

AI TRiSM контексті

Gartner мәліметтері бойынша, AI TriSM-тің бес тірегі бар: түсініктілігі, Үлгі операциялары (ModelOps), деректер аномалиясын анықтау, қарсылас шабуылға қарсы тұру және деректерді қорғау. Gartner болжамына сүйенсек, осы тіректерді жүзеге асыратын ұйымдар 50 жылға қарай AI үлгісін қабылдау, бизнес мақсаттары және пайдаланушыларды қабылдауға қатысты өнімділігін 2026 пайызға арттыратын болады. Бұған қоса, AI-мен жұмыс істейтін машиналар әлемдегі жұмыс күшінің 20 пайызын құрайтын болады. және 40 жылға қарай жалпы экономикалық өнімділіктің 2028 пайызын қамтамасыз етеді.

Gartner сауалнамасының нәтижелері көптеген ұйымдар АТ басшылары түсіне алмайтын немесе түсіндіре алмайтын жүздеген немесе мыңдаған AI үлгілерін енгізгенін көрсетеді. Жасанды интеллектке қатысты тәуекелдерді тиісті деңгейде басқармайтын ұйымдар қолайсыз нәтижелер мен бұзушылықтарға көбірек бейім. Модельдер мақсатты түрде жұмыс істемеуі мүмкін, бұл қауіпсіздік пен құпиялылықтың бұзылуына, қаржылық, жеке және беделге нұқсан келтіруге әкеледі. AI-ны дұрыс емес енгізу ұйымдардың қате іскерлік шешімдер қабылдауына әкелуі мүмкін.

AI TRiSM сәтті енгізу үшін заң, сәйкестік, қауіпсіздік, АТ және деректерді талдау қызметкерлерінің кросс-функционалды командасы қажет. AI жобасына қатысатын әрбір бизнес саласының тиісті өкілдігі бар арнайы топ немесе жұмыс тобын құру да оңтайлы нәтиже береді. Сондай-ақ команданың әрбір мүшесінің өз рөлдері мен жауапкершіліктерін, сондай-ақ AI TRiSM бастамасының мақсаттары мен міндеттерін анық түсінуін қамтамасыз ету маңызды.

Деструктивті әсер

AI қауіпсіз ету үшін Gartner бірнеше маңызды қадамдарды ұсынады. Біріншіден, ұйымдар AI-мен байланысты ықтимал тәуекелдерді және оларды қалай азайту керектігін түсінуі керек. Бұл әрекет технологияның өзін ғана емес, оның адамдарға, процестерге және қоршаған ортаға әсерін де қарастыратын кешенді тәуекелді бағалауды талап етеді.

Екіншіден, ұйымдар AI тәуекелдерін басқаруға арналған саясаттарды, процедураларды және бақылауды қамтитын AI басқаруына инвестиция салуы керек. Бұл стратегия AI жүйелерінің ашық, түсінікті, есеп беретін және тиісті заңдар мен ережелерге сәйкес болуын қамтамасыз етуді қамтиды. Сонымен қатар, AI үлгілерін үздіксіз бақылау және аудит уақыт өте келе пайда болуы мүмкін кез келген ықтимал тәуекелдерді анықтау және азайту үшін өте маңызды. Соңында, ұйымдар қызметкерлер мен мүдделі тараптар арасында хабардарлықты, білім беруді және оқытуды ілгерілете отырып, AI қауіпсіздігі мәдениетін дамытуы керек. Бұл қадамдарға AI-ны этикалық пайдалану, АИ-мен байланысты тәуекелдер және мәселелерді немесе алаңдаушылықтарды анықтау және хабарлау бойынша оқыту кіреді. 

Бұл күш-жігер көп компаниялардың Жауапты AI бөлімдерін құруына әкелуі мүмкін. Бұл жаңадан дамып келе жатқан басқару жүйесі AI-ға қатысты құқықтық және этикалық кедергілерді ұйымдардың оларға қалай қарайтынын құжаттау арқылы шешеді. Құрылым және онымен байланысты бастамалар күтпеген жағымсыз салдардың алдын алу үшін түсініксіздікті жоюды қалайды. Жауапты AI құрылымының принциптері қызметкерлерге пайда әкелетін, тұтынушыларға құндылық беретін және қоғамға оң әсер ететіндей AI-ны жобалауға, дамытуға және пайдалануға бағытталған.

AI TRiSM салдары

AI TRiSM-тің кеңірек әсерлері мыналарды қамтуы мүмкін: 

• AI TRiSM маңыздырақ бола түскен сайын, компаниялар осы салада білімі бар, AI қауіпсіздік талдаушылары, тәуекел менеджерлері және этика мамандары сияқты көбірек білікті жұмысшыларды жалдауы керек.
• AI жүйелерін пайдаланудағы ашықтық, әділдік және есеп беру қажеттілігі сияқты жаңа этикалық және моральдық ойлар.
• Қауіпсіз, сенімді және сенімді AI кеңейтілген инновациялар.
• Жеке тұлғалар мен ұйымдарды AI жүйелерімен байланысты тәуекелдерден қорғау үшін мемлекеттік реттеуге қысымның артуы.
• Жасанды интеллект жүйелерінің белгілі бір топтарға немесе жеке тұлғаларға бейтарап болмауын қамтамасыз етуге көбірек көңіл бөлу.
• Жасанды интеллект дағдылары бар және онсыздарды ығыстыруы мүмкін адамдар үшін жаңа мүмкіндіктер.
• Үнемі жаңартылып отыратын оқу деректері үшін қуат тұтынуды және деректерді сақтау сыйымдылығын арттыру.
• Жауапты AI стандарттарын қабылдамағаны үшін көбірек компанияларға айыппұл салынады.

Қарастырылатын сұрақтар

• Егер сіз AI саласында жұмыс жасасаңыз, сіздің компанияңыз алгоритмдерін этикалық болуға қалай үйретеді?
• Жауапты AI жүйелерін құрудың қандай қиындықтары бар?