Odamlar sun'iy super intellektdan qanday himoyalanishadi: sun'iy intellektning kelajagi P5

Yil miloddan avvalgi 65,000 XNUMX yil va a Thylacoleo, siz va sizning turingiz qadimgi Avstraliyaning buyuk ovchilari edingiz. Siz yerni bemalol aylanib chiqdingiz va siz bilan birga erni egallagan yirtqichlar va o'ljalar bilan muvozanatda yashadingiz. Fasllar o'zgarishlarga olib keldi, lekin sizning hayvonot dunyosidagi maqomingiz siz va ota-bobolaringiz eslay oladigan vaqtgacha shubhasiz qoldi. Keyin bir kuni yangi kelganlar paydo bo'ldi.

Mish-mishlarga ko'ra, ular ulkan suv devoridan kelgan, ammo bu mavjudotlar quruqlikda yashash uchun qulayroq bo'lib tuyulardi. Siz bu jonzotlarni o'zingiz ko'rishingiz kerak edi.

Bu bir necha kun davom etdi, lekin siz nihoyat qirg'oqqa etib keldingiz. Osmonda olov yonayotgan edi, bu jonzotlarga josuslik qilish uchun ajoyib vaqt, hatto ularning ta'mini ko'rish uchun bittasini yeb ko'ring.

Siz bittasini topdingiz.

U ikki oyoq ustida yurdi va mo'ynasi yo'q edi. Bu zaif ko'rinardi. Ta'sirsiz. Qirollikdagi qo'rquvga arzimaydi.

Tun yorug'likni quvib chiqarayotganda, siz ehtiyotkorlik bilan yondashishni boshlaysiz. Siz yaqinlashyapsiz. Keyin muzlab qolasiz. Qattiq tovushlar yangradi, keyin ularning orqasida o'rmondan yana to'rttasi paydo bo'ladi. Qanchalari bor?

Mahluq boshqalarning orqasidan daraxt chizig‘iga boradi, siz esa ergashasiz. Qanchalik ko'p qilsangiz, shunchalik g'alati tovushlarni eshitasiz, toki siz bu jonzotlarning ko'pini topmaguningizcha. Ular o'rmondan qirg'oq bo'yidagi ochiq joyga chiqishayotganda siz uzoqdan ergashasiz. Ularning ko'pi bor. Ammo eng muhimi, ularning barchasi olov atrofida xotirjam o'tirishadi.

Siz bu yong‘inlarni avval ham ko‘rgansiz. Issiq mavsumda osmondagi olov ba'zan erga tashrif buyurib, butun o'rmonlarni yoqib yubordi. Bu mavjudotlar, aksincha, ular qandaydir tarzda uni nazorat qilishdi. Qanday mavjudotlar bunday kuchga ega bo'lishi mumkin?

Siz uzoqlarga qaraysiz. Bahaybat suv devori orqali ko'proq keladi.

Siz orqaga qadam tashlaysiz.

Bu jonzotlar shohlikdagi boshqalarga o'xshamaydi. Ular butunlay yangi narsa.

Siz ketishga qaror qilasiz va qarindoshlaringizni ogohlantirasiz. Agar ularning soni juda katta bo'lsa, nima bo'lishini kim biladi.

***

Taxminlarga ko'ra, Thylacoleo, Avstraliya qit'asidagi boshqa megafaunalar bilan bir qatorda, odamlar kelganidan keyin nisbatan qisqa vaqt ichida yo'q bo'lib ketgan. Boshqa hech qanday cho'qqi sutemizuvchi yirtqichlar uning o'rnini egallamadi - bu toifadagi odamlarni hisobga olmasangiz.

Ushbu allegoriyani o'ynatish ushbu seriya bobining diqqat markazida bo'ladi: Kelajakdagi sun'iy super intellekt (ASI) barchamizni batareyaga aylantiradimi va keyin bizni Matritsaga ulaydimi yoki odamlar ilmiy fantastika qurboni bo'lmaslikning yo'lini topadimi? AI qiyomat syujeti?

Hozircha bizning seriyamizda Sun'iy aqlning kelajagi, biz sunʼiy intellektning barcha turlarini, jumladan, sunʼiy intellektning maʼlum bir shakli — ASIning ijobiy salohiyatini oʻrganib chiqdik: kelajakdagi intellekti bizni chumolilarga oʻxshatib qoʻyadigan sunʼiy mavjudot.

Ammo kim aytadiki, bunchalik aqlli mavjudot abadiy odamlardan buyruq olishni qabul qiladi. Agar ishlar janubga qarab ketsa, nima qilamiz? Biz yolg'on ASIdan qanday himoyalanamiz?

Ushbu bobda biz soxta shov-shuvlarni kesib o'tamiz - hech bo'lmaganda "odamlarning yo'q bo'lib ketish darajasi" xavfi bilan bog'liq - va dunyo hukumatlari uchun mavjud bo'lgan o'zini o'zi himoya qilishning real variantlariga e'tibor qaratamiz.

Sun'iy intellekt bo'yicha barcha keyingi tadqiqotlarni to'xtata olamizmi?

ASI insoniyatga olib kelishi mumkin bo'lgan potentsial xavflarni hisobga olgan holda, so'rash kerak bo'lgan birinchi aniq savol: AI bo'yicha barcha keyingi tadqiqotlarni to'xtata olmaymizmi? Yoki hech bo'lmaganda bizni ASI yaratishga xavfli yaqinlashtiradigan har qanday tadqiqotni taqiqlash kerakmi?

Qisqa javob: Yo'q.

Uzoq javob: Keling, bu erda ishtirok etgan turli o'yinchilarni ko'rib chiqaylik.

Tadqiqot darajasida bugungi kunda dunyo bo'ylab juda ko'p startaplar, kompaniyalar va universitetlardan AI tadqiqotchilari juda ko'p. Agar biror kompaniya yoki mamlakat AI tadqiqotini cheklashga qaror qilsa, ular boshqa joyda davom etishadi.

Ayni paytda, sayyoramizning eng qimmat kompaniyalari AI tizimlarini o'zlarining maxsus bizneslarida qo'llash orqali o'z boyliklarini orttirishmoqda. Ulardan AI vositalarini ishlab chiqishni to'xtatish yoki cheklashni so'rash, ularning kelajakdagi o'sishini to'xtatish yoki cheklashni so'rashga o'xshaydi. Moliyaviy jihatdan, bu ularning uzoq muddatli biznesiga tahdid soladi. Qonuniy jihatdan korporatsiyalar manfaatdor tomonlar uchun doimiy ravishda qiymat yaratish uchun ishonchli javobgarlikka ega; demak, ushbu qiymatning o'sishini cheklaydigan har qanday harakat sudga olib kelishi mumkin. Va agar biron bir siyosatchi AI tadqiqotlarini cheklashga harakat qilsa, bu yirik korporatsiyalar o'z fikrlarini yoki hamkasblarining fikrlarini o'zgartirish uchun kerakli lobbi to'lovlarini to'laydilar.

Jang uchun, xuddi butun dunyo bo'ylab terrorchilar va ozodlik uchun kurashuvchilar partizan taktikasini yaxshiroq moliyalashtiriladigan qo'shinlarga qarshi kurashda qo'llaganidek, kichikroq davlatlar ham bir qator harbiy afzalliklarga ega bo'lishi mumkin bo'lgan yirik davlatlarga qarshi AIdan xuddi shunday taktik ustunlik sifatida foydalanishga undaydi. Xuddi shunday, AQSh, Rossiya va Xitoyga tegishli bo'lgan yuqori qo'shinlar uchun harbiy ASI qurish sizning orqa cho'ntagingizda yadroviy qurol arsenaliga ega bo'lish bilan tengdir. Boshqacha qilib aytadigan bo'lsak, barcha harbiylar kelajakda dolzarb bo'lib qolish uchun AIni moliyalashni davom ettiradilar.

Hukumatlar haqida nima deyish mumkin? Rostini aytsam, bugungi kunda (2018 yil) aksariyat siyosatchilar texnologik savodsiz va AI nima ekanligini yoki uning kelajakdagi salohiyati haqida juda kam tushunchaga ega - bu ularni korporativ manfaatlar bilan boshqarishni osonlashtiradi.

Va global darajada, dunyo hukumatlarini 2015 yilni imzolashga ishontirish qanchalik qiyin bo'lganini ko'rib chiqing Parij shartnomasi iqlim o'zgarishiga qarshi kurashish uchun - va imzolangandan so'ng, ko'pgina majburiyatlar hatto majburiy emas edi. Faqat bu emas, iqlim o'zgarishi odamlarning tobora tez-tez va og'ir ob-havo hodisalari tufayli global miqyosda jismoniy boshdan kechirayotgan muammosidir. Endi, AI cheklovlariga rozilik haqida gapirganda, bu asosan ko'rinmaydigan va jamoatchilikka tushunarli bo'lmagan masala, shuning uchun sun'iy intellektni cheklash bo'yicha har qanday turdagi "Parij kelishuvi"ni sotib olishda omad tilaymiz.

Boshqacha qilib aytadigan bo'lsak, oxir-oqibat ASIga olib kelishi mumkin bo'lgan har qanday tadqiqotni to'xtatish uchun AIni o'z maqsadlari uchun o'rganishga qiziqish juda ko'p. 

Biz sun'iy super intellektni qafas qila olamizmi?

Keyingi o'rinli savol shundaki, biz muqarrar ravishda ASIni yaratganimizdan so'ng uni qafas qilish yoki nazorat qilishimiz mumkinmi? 

Qisqa javob: yana, yo'q.

Uzoq javob: Texnologiyani ushlab bo'lmaydi.

Birinchisi, dunyoda doimiy ravishda yangi dasturiy ta'minot yoki mavjud dasturiy ta'minotning yangi versiyalarini chiqarib yuboradigan minglab millionlab veb-ishlab chiquvchilar va kompyuter olimlarini ko'rib chiqing. Rostini aytsam, ularning har bir dasturiy ta'minoti 100 foiz xatosizdir? Ushbu xatolar professional xakerlar millionlab odamlarning kredit karta ma'lumotlarini yoki mamlakatlarning maxfiy sirlarini o'g'irlash uchun foydalanadilar va bular inson xakerlari. Agar ASI uchun raqamli qafasdan qochish uchun rag'bat bor deb faraz qilsak, xatolarni topish va dasturiy ta'minotni buzish jarayoni shabada bo'ladi.

Ammo agar sun'iy intellekt bo'yicha tadqiqot guruhi ASIni bo'yash yo'lini aniqlagan bo'lsa ham, bu keyingi 1,000 ta jamoa ham buni aniqlaydi yoki undan foydalanishga rag'batlantiriladi degani emas.

ASI yaratish uchun milliardlab dollar va hatto o'nlab yillar kerak bo'ladi. Bunday pul va vaqtni investitsiya qilgan korporatsiyalar yoki hukumatlar o'z sarmoyalaridan sezilarli daromad kutishadi. Va ASI bunday daromadni ta'minlashi uchun - bu fond bozorida o'ynash yoki yangi milliard dollarlik mahsulot ixtiro qilish yoki kattaroq armiyaga qarshi kurashda g'alaba qozonish strategiyasini rejalashtirish - ulkan ma'lumotlar to'plamiga yoki hatto Internetga bepul kirish kerak bo'ladi. o'zi bu daromadlarni ishlab chiqaradi.

Va ASI dunyo tarmoqlariga kirish huquqiga ega bo'lgandan so'ng, biz uni qafasga qaytarishimiz uchun hech qanday kafolat yo'q.

Sun'iy super intellekt yaxshi bo'lishni o'rgana oladimi?

Hozirda AI tadqiqotchilari ASI yovuzlikka aylanishidan xavotirda emaslar. Butun yovuz, AI ilmiy-fantastik trope shunchaki odamlar yana antropomorfizatsiya. Kelajakdagi ASI na yaxshi, na yomon - insoniy tushunchalar - shunchaki axloqsiz bo'ladi.

Tabiiy taxmin shundan iboratki, bu bo'sh axloqiy jadvalni hisobga olgan holda, AI tadqiqotchilari bizni Terminatorlarni qo'zg'atmaslik yoki barchamizni Matritsa batareyalariga aylantirmaslik uchun biznikiga mos keladigan birinchi ASI axloqiy kodlarini dasturlashlari mumkin.

Ammo bu taxmin AI tadqiqotchilari ham etika, falsafa va psixologiya bo'yicha mutaxassislar ekanligi haqidagi ikkinchi darajali taxminni keltirib chiqaradi.

Aslida, ko'pchilik unday emas.

Kognitiv psixolog va muallif Stiven Pinkerning so'zlariga ko'ra, bu haqiqat axloqni kodlash vazifasi turli xil yo'llar bilan noto'g'ri ketishi mumkinligini anglatadi.

Misol uchun, hatto eng yaxshi niyatli AI tadqiqotchilari ham beixtiyor ushbu ASIga noto'g'ri o'ylangan axloqiy kodlarni kiritishlari mumkin, ular ma'lum stsenariylarda ASIni sosyopat kabi harakat qilishiga olib kelishi mumkin.

Xuddi shunday, AI tadqiqotchisi tadqiqotchining tug'ma tarafkashliklarini o'z ichiga olgan axloqiy kodlarni dasturlashi ehtimoli teng. Misol uchun, agar ASI konservativ va liberal nuqtai nazardan yoki buddist va xristian yoki islom an'analaridan kelib chiqqan etika bilan qurilgan bo'lsa, o'zini qanday tutadi?

Menimcha, siz bu erda masalani ko'rasiz: insoniy axloqning universal to'plami yo'q. Agar biz ASI etik kodeksga muvofiq harakat qilishini istasak, u qayerdan keladi? Biz qanday qoidalarni o'z ichiga olamiz va istisno qilamiz? Kim qaror qiladi?

Yoki aytaylik, ushbu AI tadqiqotchilari bugungi zamonaviy madaniyat me'yorlari va qonunlariga to'liq mos keladigan ASIni yaratadilar. Keyin biz ushbu ASIdan federal, shtat/viloyat va shahar byurokratiyalarining samaraliroq ishlashi va ushbu normalar va qonunlarni yaxshiroq tatbiq etishiga yordam berish uchun foydalanamiz (Aytgancha, ASI uchun foydalanish mumkin). Xo'sh, madaniyatimiz o'zgarganda nima bo'ladi?

Tasavvur qiling-a, ASI katolik cherkovi tomonidan O'rta asrlarda Evropada (1300-1400 yillar) cherkovga aholini boshqarishda yordam berish va o'sha davrning diniy aqidalariga qat'iy rioya qilishni ta'minlash maqsadida o'z kuchining eng yuqori cho'qqisida yaratilgan. Asrlar o'tib, ayollar bugungidek huquqlarga ega bo'larmidi? Ozchiliklar himoya qilinadimi? So'z erkinligi targ'ib qilinadimi? Cherkov va davlatni ajratish kuchga kiradimi? Zamonaviy ilm-fan?

Boshqacha qilib aytganda, kelajakni bugungi axloq va urf-odatlarga mahkum qilmoqchimimiz?

Muqobil yondashuv bu kitob hammuallifi Kolin Allen tomonidan baham ko'rilgan yondashuv. Axloqiy mashinalar: robotlarni noto'g'ridan to'g'ri o'rgatish. Qattiq axloqiy qoidalarni kodlashga harakat qilish o'rniga, bizda ASI umumiy axloq va axloqni insonlar kabi tajriba va boshqalar bilan o'zaro munosabatlar orqali o'rganadi.

Ammo bu erda muammo shundaki, agar AI tadqiqotchilari nafaqat ASIga hozirgi madaniy va axloqiy me'yorlarimizni qanday o'rgatish kerakligini, balki ular paydo bo'lganda yangi madaniy me'yorlarga qanday moslashishni ham aniqlasalar ("bilvosita me'yoriylik" deb ataladigan narsa), unda qanday qilib bu ASI madaniy va axloqiy me'yorlar haqidagi tushunchasini rivojlantirishga qaror qiladi, oldindan aytib bo'lmaydi.

Va bu qiyinchilik.

Bir tomondan, AI tadqiqotchilari uning xulq-atvorini sinab ko'rish va nazorat qilish uchun ASIga qat'iy axloqiy me'yorlar yoki qoidalarni kodlashga urinib ko'rishlari mumkin, ammo beparvo kodlash, qasddan noto'g'ri qarashlar va bir kun eskirib qolishi mumkin bo'lgan ijtimoiy me'yorlar kutilmagan oqibatlarga olib kelishi mumkin. Boshqa tomondan, biz ASIni inson axloqi va axloqini o'z tushunchamizga teng yoki undan yuqoriroq tarzda tushunishni o'rganishga o'rgatishimiz mumkin va keyin u insoniyat jamiyati rivojlanishi bilan axloq va axloq haqidagi tushunchasini to'g'ri rivojlanishiga umid qilishimiz mumkin. keyingi o'n yilliklar va asrlar davomida oldinga.

Qanday bo'lmasin, ASI maqsadlarini biznikiga moslashtirishga urinish katta xavf tug'diradi.

Agar yomon aktyorlar ataylab yovuz sun'iy intellektni yaratsa-chi?

Hozirgacha bayon qilingan fikr-mulohazalarni hisobga olsak, terrorchi guruh yoki yolg'on xalq o'z maqsadlari uchun "yomon" ASI yaratishi mumkinmi, degan savol adolatli.

Bu juda mumkin, ayniqsa ASI yaratish bilan bog'liq tadqiqotlar qandaydir tarzda onlayn mavjud bo'lganidan keyin.

Ammo yuqorida aytib o'tilganidek, birinchi ASIni yaratish uchun sarflanadigan xarajatlar va tajriba juda katta bo'ladi, ya'ni birinchi ASI rivojlangan davlatlar, ehtimol AQSh, Xitoy va Yaponiya tomonidan boshqariladigan yoki kuchli ta'sir ko'rsatadigan tashkilot tomonidan yaratilishi mumkin. Koreya va Evropa Ittifoqining etakchi davlatlaridan biri uzoqdan zarbalar).

Bu mamlakatlarning barchasi, garchi raqobatchilar bo'lsa-da, har biri jahon tartibini saqlash uchun kuchli iqtisodiy rag'batga ega - ular yaratgan ASIlar, hatto o'zlari birlashgan davlatlar manfaatlarini ilgari surish bilan birga, bu istakni aks ettiradi.

Bundan tashqari, ASI ning nazariy intellekt va quvvati u foydalana oladigan hisoblash kuchiga teng, ya'ni rivojlangan davlatlardagi ASIs (bu bir necha milliard dollarga ega bo'lishi mumkin) superkompyuterlar) kichikroq davlatlar yoki mustaqil jinoiy guruhlarning ASIlarga nisbatan katta ustunlikka ega bo'ladi. Bundan tashqari, ASIs vaqt o'tishi bilan yanada aqlli va tezroq o'sadi.

Shunday qilib, ushbu boshlang'ich boshlang'ich va xom hisoblash quvvatiga kengroq kirish imkoniyatini hisobga olgan holda, agar soyali tashkilot/millat xavfli ASIni yaratsa, rivojlangan davlatlardagi ASI uni o'ldiradi yoki qafasga oladi.

(Ushbu fikrlash yo'nalishi, shuningdek, ba'zi AI tadqiqotchilari sayyorada faqat bitta ASI bo'ladi deb ishonishadi, chunki birinchi ASI barcha keyingi ASIlar ustidan shunday boshlanishga ega bo'ladiki, u kelajakdagi ASI'larni yo'q qilish tahdidi sifatida ko'rishi mumkin. Bu davlatlar sun'iy intellekt bo'yicha davomiy tadqiqotlarni moliyalashtirayotganining yana bir sababi, agar u "birinchi o'rin yoki hech narsa" raqobatiga aylansa.)

ASI razvedkasi biz o'ylagandek tezlashmaydi yoki portlamaydi

Biz ASI yaratilishini to'xtata olmaymiz. Biz buni butunlay nazorat qila olmaymiz. U har doim bizning umumiy odatlarimizga muvofiq harakat qilishiga ishonchimiz komil emas. Voy, biz bu erda vertolyot ota-onalariga o'xshay boshladik!

Ammo insoniyatni odatdagi haddan tashqari himoyalangan ota-onangizdan ajratib turadigan narsa shundaki, biz aql-zakovati biznikidan ancha yuqori bo'lgan mavjudotni dunyoga keltirmoqdamiz. (Yo'q, bu ota-onangiz har safar uyga tashrif buyurganingizda kompyuteringizni tuzatishingizni so'rashi bilan bir xil emas.) 

Sun'iy intellekt seriyasining ushbu kelajagining oldingi boblarida biz AI tadqiqotchilari nima uchun ASI intellekti nazoratdan tashqarida o'sadi deb o'ylashlarini o'rganib chiqdik. Ammo bu erda biz bu pufakni yorib yuboramiz ... qandaydir. 

Ko‘ryapsizmi, aql shunchaki havodan o‘zini yaratmaydi, u tashqi ogohlantirishlar ta’sirida shakllangan tajriba orqali rivojlanadi.  

Boshqacha qilib aytganda, biz sun'iy intellektni dasturlashimiz mumkin potentsial juda aqlli bo'lish uchun, lekin agar biz unga bir tonna ma'lumot yuklamasak yoki Internetga cheksiz kirishni ta'minlamasak yoki shunchaki robot tanasini bermasak, u bu salohiyatga erishish uchun hech narsani o'rganmaydi. 

Va agar u ushbu stimullarning bir yoki bir nechtasiga kirish huquqiga ega bo'lsa ham, bilim yoki aql shunchaki ma'lumot to'plashdan ko'proq narsani o'z ichiga oladi, u ilmiy usulni o'z ichiga oladi - kuzatish, savol, gipoteza shakllantirish, tajribalar o'tkazish, xulosa chiqarish, yuvish. va abadiy takrorlang. Ayniqsa, agar bu tajribalar jismoniy narsalarni yoki odamlarni kuzatishni o'z ichiga olsa, har bir tajriba natijalarini yig'ish uchun haftalar, oylar yoki yillar kerak bo'lishi mumkin. Bu tajribalarni o'tkazish uchun zarur bo'lgan pul va xom ashyoni hisobga olmaydi, ayniqsa ular yangi teleskop yoki zavod qurishni nazarda tutsa. 

Boshqacha qilib aytganda, ha, ASI tezda o'rganadi, ammo aql sehr emas. Siz shunchaki ASI-ni superkompyuterga ulab bo'lmaydi va u hamma narsani biladi. ASI ning ma'lumotlarni olishida jismoniy cheklovlar mavjud bo'ladi, ya'ni uning aqlli o'sishi tezligida jismoniy cheklovlar mavjud bo'ladi. Ushbu cheklovlar insoniyatga, agar u inson maqsadlariga mos kelmaydigan harakat qila boshlasa, ushbu ASIga kerakli boshqaruvlarni joylashtirish uchun zarur bo'lgan vaqtni beradi.

Sun'iy super intellekt haqiqiy dunyoga chiqsagina xavflidir

Butun ASI xavfi bahsida yo'qolgan yana bir nuqta shundaki, bu ASI'lar ikkalasida ham mavjud bo'lmaydi. Ular jismoniy shaklga ega bo'ladilar. Va jismoniy shaklga ega bo'lgan har qanday narsani nazorat qilish mumkin.

Birinchidan, ASI o'zining razvedka potentsialiga erishishi uchun uni bitta robot tanasi ichida joylashtirish mumkin emas, chunki bu tana uning hisoblash o'sish potentsialini cheklaydi. (Shuning uchun robot jismlari AGI uchun ko'proq mos keladi yoki sun'iy umumiy intellekt ikkinchi bobda tushuntirilgan Star Trek ma'lumotlari yoki Yulduzli urushlardan R2D2 kabi ushbu seriyaning. Aqlli va qobiliyatli mavjudotlar, lekin odamlar kabi, ular qanchalik aqlli bo'lishlari uchun chegaraga ega bo'ladilar.)

Bu shuni anglatadiki, kelajakdagi ASIlar katta qurilish majmualarida joylashgan superkompyuter yoki superkompyuterlar tarmog'ida mavjud bo'ladi. Agar ASI tovonini aylantirsa, odamlar bu binolarning quvvatini o'chirishlari, ularni Internetdan uzib qo'yishlari yoki shunchaki bu binolarni bombardimon qilishlari mumkin. Qimmat, lekin amalga oshirish mumkin.

Ammo keyin siz so'rashingiz mumkin, bu ASI'lar o'zlarini takrorlay olmaydilar yoki o'zlarini zaxira qila olmaydilarmi? Ha, lekin bu ASI-larning xom fayl hajmi shunchalik katta bo'ladiki, ularni boshqara oladigan yagona serverlar yirik korporatsiyalar yoki hukumatlarga tegishli bo'lib, ularni qidirish qiyin bo'lmaydi.

Sun'iy superintellekt yadro urushini yoki yangi vaboni keltirib chiqarishi mumkinmi?

Shu nuqtada, siz o'sib ulg'aygan qiyomat kuni haqidagi barcha ilmiy-fantastik shoularni va filmlarni o'ylab ko'rgan bo'lishingiz mumkin va bu ASI'lar o'zlarining superkompyuterlarida qolmagan, ular haqiqiy dunyoda haqiqiy zarar etkazgan deb o'ylayotgandirsiz!

Xo'sh, keling, bularni ajratamiz.

Misol uchun, agar ASI The Terminator film franshizasidan Skynet ASIga o'xshab, haqiqiy dunyoga tahdid solsa-chi. Bunday holda, ASI kerak bo'ladi yashirincha Butun bir harbiy sanoat majmuasini ilg'or davlatdan tortib, o'zining yomon niyatlarini amalga oshirish uchun millionlab qotil dron robotlarini yo'q qila oladigan ulkan zavodlarni qurishga aylantiring. Hozirgi zamonda bu juda qiyin.

Boshqa imkoniyatlar orasida yadroviy urush va bioqurollar bilan odamlarga tahdid soluvchi ASI kiradi.

Misol uchun, ASI qandaydir tarzda operatorlarni manipulyatsiya qiladi yoki ilg'or davlatning yadroviy arsenaliga buyruq beruvchi ishga tushirish kodlarini buzadi va birinchi zarbani boshlaydi, bu esa qarama-qarshi mamlakatlarni o'zlarining yadroviy imkoniyatlari bilan javob qaytarishga majbur qiladi (yana Terminator tarixini qayta tiklash). Yoki agar ASI farmatsevtika laboratoriyasiga kirsa, ishlab chiqarish jarayonini buzsa va millionlab tibbiy tabletkalarni zaharlasa yoki super virusning halokatli tarqalishini keltirib chiqarsa.

Avvalo, yadro varianti to'liq emas. Zamonaviy va bo'lajak superkompyuterlar har doim har qanday mamlakat ichidagi ta'sir markazlari (shaharlari) yaqinida, ya'ni har qanday urush paytida hujum qilinadigan birinchi nishonlar yaqinida quriladi. Agar bugungi superkompyuterlar ish stoli o'lchamiga kichrayib qolsa ham, bu ASI'lar hali ham jismoniy mavjud bo'ladi, ya'ni mavjud bo'lish va o'sishni anglatadi, ular ma'lumotlarga, hisoblash quvvatiga, elektr energiyasiga va boshqa xom ashyolarga uzluksiz kirishga muhtoj, bularning barchasi jiddiy bo'ladi. global yadroviy urushdan keyin buzilgan. (Adolat uchun, agar ASI "omon qolish instinkti"siz yaratilgan bo'lsa, unda bu yadroviy tahdid juda real xavf hisoblanadi.)

Bu shuni anglatadiki, agar ASI o'zini himoya qilish uchun dasturlashtirilgan deb faraz qilsak, u har qanday halokatli yadroviy hodisaning oldini olish uchun faol ishlaydi. O'zaro ishonchli vayronagarchilik (MAD) doktrinasiga o'xshaydi, lekin AI uchun qo'llaniladi.

Zaharlangan tabletkalar bo'lsa, ehtimol bir necha yuz kishi halok bo'ladi, ammo zamonaviy farmatsevtika xavfsizlik tizimlari bir necha kun ichida ifloslangan tabletka idishlarini javonlardan olib tashlashni ko'radi. Shu bilan birga, zamonaviy epidemiyani nazorat qilish choralari ancha murakkab va yil sayin yaxshilanmoqda; oxirgi yirik epidemiya, 2014-yilgi G‘arbiy Afrikadagi Ebola epidemiyasi ko‘pchilik mamlakatlarda bir necha oydan ko‘proq davom etmadi va kam rivojlangan mamlakatlarda atigi uch yil davom etdi.

Shunday qilib, agar omadingiz bo'lsa, ASI virusli epidemiya bilan bir necha millionni yo'q qilishi mumkin, ammo 2045 yilga kelib to'qqiz milliard kishilik dunyoda bu nisbatan ahamiyatsiz bo'ladi va uni o'chirish xavfiga arzimaydi.

Boshqacha qilib aytadigan bo'lsak, yil sayin dunyo bo'ylab kengayib borayotgan ehtimoliy tahdidlarga qarshi himoya vositalarini ishlab chiqmoqda. ASI katta miqdorda zarar etkazishi mumkin, ammo biz unga faol yordam bermagunimizcha, u insoniyatni tugatmaydi.

Soxta sun'iy aqldan himoya qilish

Shu paytgacha biz ASIs haqidagi bir qator noto'g'ri tushunchalar va mubolag'alarni ko'rib chiqdik, ammo tanqidchilar qoladi. Yaxshiyamki, ko'pchilik hisob-kitoblarga ko'ra, birinchi ASI dunyomizga kirishiga o'nlab yillar bor. Va hozirda ushbu muammo ustida ishlayotgan buyuk aqllarning sonini hisobga olsak, biz o'zimizni yolg'on ASIdan qanday himoya qilishni o'rganishimiz mumkin, shunda biz do'stona ASI biz uchun yaratishi mumkin bo'lgan barcha echimlardan foyda olishimiz mumkin.

Quantumrun nuqtai nazaridan, eng yomon ASI stsenariysidan himoya qilish bizning manfaatlarimizni ASI bilan moslashtirishni o'z ichiga oladi.

AI uchun MAD: Eng yomon stsenariylardan himoyalanish uchun davlatlar (1) o'zlarining harbiy ASIlarda axloqiy "omon qolish instinkti"ni yaratishlari kerak; (2) tegishli harbiy ASIga sayyorada yolg'iz emasligi haqida xabar bering va (3) ASI-ni qo'llab-quvvatlay oladigan barcha superkompyuterlar va server markazlarini dushman davlatining har qanday ballistik hujumi oson yetib borishi mumkin bo'lgan qirg'oq bo'ylab toping. Bu strategik jihatdan aqldan ozgandek tuyuladi, ammo AQSh va Sovetlar o'rtasida to'liq yadroviy urushning oldini olgan O'zaro kafolatlangan halokat doktrinasiga o'xshaydi, ASIlarni geografik jihatdan zaif joylarda joylashtirish orqali biz nafaqat xavfli global urushlarning faol oldini olishga yordam bera olamiz. global tinchlikni, balki o'zlarini ham himoya qiladi.

AI huquqlarini qonun bilan ta'minlash: Yuqori intellekt muqarrar ravishda past xo'jayinga qarshi isyon ko'taradi, shuning uchun biz ushbu ASIlar bilan xo'jayin va xizmatkor munosabatlarini talab qilishdan o'zaro manfaatli hamkorlikka o'xshash narsaga o'tishimiz kerak. Bu maqsad sari ijobiy qadam boʻlajak ASIga ularni aqlli tirik mavjudot sifatida tan oladigan yuridik shaxs maqomini va shu bilan birga keladigan barcha huquqlarni berishdir.

ASI maktabi: Har qanday mavzu yoki kasb ASI uchun o'rganishi oson bo'ladi, lekin biz ASI o'zlashtirishini istagan eng muhim fanlar axloq va axloqdir. AI tadqiqotchilari har qanday amr yoki qoidani qattiq kodlashsiz o'zi uchun ijobiy axloq va axloqni tan olish uchun ASIni o'rgatish uchun virtual tizimni ishlab chiqish uchun psixologlar bilan hamkorlik qilishlari kerak.

Erish mumkin bo'lgan maqsadlar: Barcha nafratga barham bering. Barcha azob-uqubatlarga barham bering. Bu aniq yechimga ega bo'lmagan dahshatli noaniq maqsadlar misollari. Ular, shuningdek, ASIga tayinlash uchun xavfli maqsadlardir, chunki u ularni inson hayoti uchun xavfli bo'lgan usullar bilan talqin qilish va hal qilishni tanlashi mumkin. Buning o'rniga, biz ASIga aniq belgilangan, bosqichma-bosqich bajariladigan va nazariy kelajak intellektini hisobga olgan holda erishish mumkin bo'lgan mazmunli vazifalarni belgilashimiz kerak. Yaxshi belgilangan missiyalarni yaratish oson bo'lmaydi, lekin agar o'ylangan holda yozilgan bo'lsa, ular ASIni nafaqat insoniyat xavfsizligini ta'minlaydigan, balki hamma uchun insoniy holatni yaxshilaydigan maqsadga qaratadi.

Kvant shifrlash: Kengaytirilgan ANI dan foydalaning (sun'iy tor intellekt Birinchi bobda tasvirlangan tizim) bizning muhim infratuzilmamiz va qurollarimiz atrofida xatoliksiz / xatosiz raqamli xavfsizlik tizimlarini yaratish, keyin ularni qo'pol kuch hujumi bilan buzib bo'lmaydigan kvant shifrlash ortida qo'shimcha himoya qilish. 

ANI o'z joniga qasd qilish tabletkasi. Ilg'or ANI tizimini yarating, uning maqsadi yolg'on ASI-ni qidirish va yo'q qilishdir. Ushbu yagona maqsadli dasturlar "o'chirish tugmasi" bo'lib xizmat qiladi, agar muvaffaqiyatli bo'lsa, hukumatlar yoki harbiylar ASIlar joylashgan binolarni o'chirish yoki portlatishdan qochadi.

Albatta, bu faqat bizning fikrlarimiz. Quyidagi infografikani yaratgan Aleksey Turchin, vizualizatsiya a tadqiqot qog'oz Kaj Sotala va Roman V. Yampolskiy tomonidan AI tadqiqotchilari yolg'on ASIdan himoyalanish haqida gap ketganda ko'rib chiqilayotgan strategiyalarning joriy ro'yxatini jamlagan.

Sun'iy intellektdan qo'rqishimizning asl sababi

Hayot davomida ko'pchiligimiz bizning kunlarimizni boshqaradigan turli xil ijtimoiy va ish doiralarida yaxshiroq muloqot qilish va hamkorlik qilish uchun chuqurroq impulslarimiz, e'tiqodlarimiz va qo'rquvlarimizni yashiradigan yoki bostiradigan niqob kiyamiz. Ammo har bir inson hayotining muayyan nuqtalarida, vaqtinchalik yoki doimiy ravishda, zanjirlarimizni uzib, niqoblarimizni yirtishimizga imkon beradigan narsa sodir bo'ladi.

Ba'zilar uchun bu aralashuvchi kuch ko'tarilish yoki juda ko'p ichish kabi oddiy bo'lishi mumkin. Boshqalar uchun bu ishdagi ko'tarilish yoki ba'zi yutuqlar tufayli ijtimoiy mavqeingizning to'satdan o'sishi orqali olingan kuchdan kelib chiqishi mumkin. Va bir nechta omadlilar uchun bu lotereya pullarini to'plashdan kelib chiqishi mumkin. Ha, pul, kuch va giyohvand moddalar ko'pincha birga bo'lishi mumkin. 

Gap shundaki, yaxshi yoki yomon, biz kim bo'lishimizdan qat'i nazar, hayot cheklovlari erib ketganda kuchayadi.

ekan Bu sun'iy o'ta intellekt inson turi uchun nimani anglatadi - bizning jamoaviy intellektimizning cheklovlarini yo'q qilish qobiliyati, oldimizga qo'yilgan har qanday tur darajasidagi qiyinchiliklarni engish.

Shunday qilib, haqiqiy savol: Birinchi ASI bizni cheklovlarimizdan ozod qilsa, biz o'zimizni kim ekanligimizni ko'rsatamiz?

Agar biz tur sifatida hamdardlik, erkinlik, adolat va jamoaviy farovonlikni rivojlantirishga harakat qilsak, ASI oldiga qo'ygan maqsadlarimiz ana shu ijobiy fazilatlarni aks ettiradi.

Agar biz tur sifatida qo'rquv, ishonchsizlik, kuch va resurslar to'planishi tufayli harakat qilsak, biz yaratgan ASI bizning eng yomon ilmiy-fantastik dahshat hikoyalarimizdagi kabi qorong'i bo'ladi.

Oxir oqibat, biz jamiyat sifatida yaxshiroq AI yaratishga umid qilsak, yaxshiroq odamlar bo'lishimiz kerak.

Sun'iy intellektning kelajagi seriyasi

Sun'iy intellekt - bu ertangi elektr energiyasi: Sun'iy intellektning kelajagi seriyasi P1

Birinchi sun'iy umumiy intellekt jamiyatni qanday o'zgartiradi: Sun'iy intellekt kelajagi seriyasi P2

Biz birinchi sun'iy superintelligencni qanday yaratamiz: Sun'iy intellekt kelajagi seriyasi P3

Sun'iy super intellekt insoniyatni yo'q qiladimi: Sun'iy intellekt kelajagi seriyasi P4

Sun'iy intellekt hukmron bo'lgan kelajakda odamlar tinch-totuv yashay oladimi?: Sun'iy intellekt kelajagi seriyasi P6