AI moslashuvi: Sun'iy intellekt maqsadlariga mos kelish insoniy qadriyatlarga mos keladi

• Muallif:
• Muallifning ismi

  Kvant davrini bashorat qilish
• Yanvar 25, 2023

Sun'iy intellekt (AI) moslashuvi AI tizimining maqsadlari insoniy qadriyatlarga mos kelishidir. OpenAI, DeepMind va Anthropic kabi kompaniyalar tadqiqotchilar guruhlariga ega bo'lib, ularning asosiy maqsadi bu sodir bo'lishi mumkin bo'lgan turli stsenariylar uchun himoya panjaralarini o'rganishdir.

AIni moslashtirish konteksti

Kornel universitetining 2021 yilgi tadqiqotiga ko'ra, bir nechta tadqiqotlar algoritmlar tomonidan yaratilgan asboblar yoki modellar ular o'qigan ma'lumotlardan kelib chiqadigan noto'g'rilikni ko'rsatishini ko'rsatdi. Misol uchun, tabiiy tilni qayta ishlashda (NLP) cheklangan ma'lumotlar to'plamida o'qitilgan tanlangan NLP modellari ayollarga nisbatan zararli gender stereotiplari asosida bashorat qilish hujjatlashtirilgan. Xuddi shunday, boshqa tadqiqotlar shuni ko'rsatdiki, o'zgartirilgan ma'lumotlar to'plamida o'qitilgan algoritmlar irqiy noxolis tavsiyalar, ayniqsa politsiyada.

Mashinani o'rganish tizimlari ko'plab kamchiliklardan aziyat chekayotgan ozchiliklar yoki guruhlar uchun yomonroq ish qilganiga ko'plab misollar mavjud. Xususan, avtomatlashtirilgan yuz tahlili va tibbiy diagnostika odatda ayollar va rangli odamlar uchun unchalik yaxshi ishlamaydi. Sog'liqni saqlash yoki ta'limni taqsimlash kabi kontekstlarda his-tuyg'u o'rniga faktlar va mantiqqa asoslanishi kerak bo'lgan tanqidiy tizimlar qo'llanilsa, ular ushbu tavsiyalar ortidagi sabablarni aniqlashni qiyinlashtirib, ko'proq zarar etkazishi mumkin.

Natijada, texnologik firmalar algoritmlarni adolatli va insonparvar saqlashga e'tibor qaratish uchun sun'iy intellektni moslashtirish guruhlarini yaratmoqda. Ilg'or AI tizimlarining yo'nalishini, shuningdek, sun'iy intellekt qobiliyatlari o'sishi bilan duch kelishimiz mumkin bo'lgan muammolarni tushunish uchun tadqiqot juda muhimdir.

Buzg'unchi ta'sir

OpenAI (2021) kompaniyasining sun'iy intellektni moslashtirish bo'limi rahbari Yan Leykening so'zlariga ko'ra, AI tizimlari faqat 2010-yillarda ishlab chiqa boshlaganini hisobga olsak, sun'iy intellektni moslashtirish bo'yicha tadqiqotlarning aksariyati nazariy jihatdan og'ir bo'lganini tushunish mumkin. Juda kuchli AI tizimlari moslashtirilganda, odamlar duch keladigan muammolardan biri shundaki, bu mashinalar axloqiy jihatdan mantiqiyligini ko'rib chiqish va baholash uchun juda murakkab echimlarni yaratishi mumkin.

Leike ushbu muammoni hal qilish uchun rekursiv mukofotni modellashtirish (RRM) strategiyasini ishlab chiqdi. RRM bilan bir nechta "yordamchi" AIlar insonga murakkabroq AI qanchalik yaxshi ishlashini baholashga yordam berish uchun o'rgatiladi. U "tegishli MVP" deb ataydigan narsani yaratish imkoniyati haqida optimistik. Boshlang'ich nuqtai nazardan, MVP (yoki minimal hayotiy mahsulot) kompaniya g'oyani sinab ko'rish uchun yaratishi mumkin bo'lgan eng oddiy mahsulotdir. Umid qilamanki, bir kun kelib sun'iy intellekt insonning sun'iy intellektni tadqiq qilishdagi ko'rsatkichlari va uning qiymatlar bilan uyg'unligi bilan bir qatorda funktsional bo'ladi.

Sun'iy intellektni moslashtirishga bo'lgan qiziqish ortib borayotgani aniq ijobiy bo'lsa-da, bu sohadagi ko'plab tahlilchilar etakchi AI laboratoriyalaridagi "axloq" ishining aksariyati texnologik kompaniyalarni yaxshi ko'rsatish va salbiy reklamalardan qochish uchun yaratilgan jamoatchilik bilan aloqalar deb o'ylashadi. Bu shaxslar axloqiy rivojlanish amaliyotlari yaqin orada ushbu kompaniyalar uchun ustuvor ahamiyatga ega bo'lishini kutishmaydi.

Ushbu kuzatishlar qiymatlarni moslashtirish bo'yicha sa'y-harakatlar uchun fanlararo yondashuvlarning muhimligini ta'kidlaydi, chunki bu axloqiy va texnik tadqiqotlarning nisbatan yangi sohasi. Turli xil bilim sohalari inklyuziv tadqiqot kun tartibining bir qismi bo'lishi kerak. Ushbu tashabbus, shuningdek, texnologlar va siyosatchilar, hatto AI tizimlari yanada rivojlangan bo'lsa ham, o'zlarining ijtimoiy konteksti va manfaatdor tomonlaridan xabardor bo'lishlari zarurligini ko'rsatadi.

AI moslashuvining oqibatlari

AI moslashuvining kengroq oqibatlari quyidagilarni o'z ichiga olishi mumkin: 

• Sun'iy intellekt laboratoriyalari loyihalarni nazorat qilish va AI axloqiy ko'rsatmalarini bajarish uchun turli xil axloqiy kengashlarni yollaydi. 
• Hukumatlar kompaniyalardan o'zlarining mas'uliyatli AI tizimini taqdim etishlarini va o'zlarining AI loyihalarini qanday rivojlantirishni rejalashtirishlarini talab qiladigan qonunlarni ishlab chiqadilar.
• Ishga qabul qilish, jamoatchilik nazorati va huquqni muhofaza qilish organlarida algoritmlardan foydalanish bo'yicha tortishuvlar kuchaygan.
• Etika va korporativ maqsadlar o'rtasidagi manfaatlar to'qnashuvi tufayli tadqiqotchilar yirik AI laboratoriyalaridan ishdan bo'shatilmoqda.
• Hukumatlarga aql bovar qilmaydigan darajada kuchli, lekin inson huquqlarini buzishi mumkin bo'lgan ilg'or AI tizimlarini tartibga solish uchun ko'proq bosim.

Izoh uchun savollar

• Qanday qilib firmalar o'zlari yaratgan AI tizimlari uchun javobgar bo'lishi mumkin?
• AI noto'g'ri moslashuvi bo'lsa, boshqa qanday xavflar bo'lishi mumkin?