Quantumrun

TASVIR KREDIT: Quantumrun

Birinchi sun'iy umumiy intellekt jamiyatni qanday o'zgartiradi: sun'iy intellektning kelajagi P2

Devid Tal, nashriyotchi, futurist
@DavidTalWrites
LinkedIn

Seshanba, 09 - 15:2020

Biz piramidalar qurdik. Biz elektr energiyasidan foydalanishni o'rgandik. Bizning koinotimiz Katta portlashdan keyin (asosan) qanday shakllanganini tushunamiz. Va, albatta, klişe misol, biz oyga odamni qo'ydik. Biroq, bu barcha yutuqlarga qaramay, inson miyasi zamonaviy ilm-fan tushunchasidan ancha chetda qolmoqda va sukut bo'yicha, ma'lum bo'lgan koinotdagi eng murakkab ob'ekt yoki hech bo'lmaganda u haqidagi bizning tushunchamizdir.

Ushbu haqiqatni hisobga oladigan bo'lsak, biz hali ham sun'iy intellektni (AI) odamlar bilan tenglashtirmaganimiz hayratlanarli emas. Data (Star Trek), Rachael (Blade Runner) va Devid (Prometey) kabi sunʼiy intellekt yoki Samantha (U) va TARS (Interstellar) kabi gumanoid boʻlmagan sunʼiy intellekt, bularning barchasi sunʼiy intellektni rivojlantirishdagi keyingi ajoyib bosqichga misoldir: sun'iy umumiy intellekt (AGI, ba'zan HLMI yoki Inson darajasidagi mashina razvedkasi deb ham ataladi).

Boshqacha qilib aytganda, sun'iy intellekt tadqiqotchilari oldida turgan qiyinchilik: o'z ongimiz qanday ishlashini hatto to'liq tushunmasak ham, biz o'zimiznikiga o'xshash sun'iy ongni qanday qurishimiz mumkin?

Biz bu savolni, shuningdek, odamlar kelajakdagi AGIga qarshi qanday kurashishini va nihoyat, birinchi AGI dunyoga e'lon qilingan kundan keyin jamiyat qanday o'zgarishini o'rganamiz.

Sun'iy umumiy intellekt nima?

Shaxmat, Jeopardy va Go bo'yicha eng yuqori o'rindagi o'yinchilarni mag'lub eta oladigan AIni loyihalash oson (Mulohaza moviy, Watsonva AlphaGO mos ravishda). Sizga har qanday savolga javob beradigan, sotib olmoqchi boʻlgan narsalarni taklif qiladigan yoki taksilar parkini boshqaradigan sunʼiy intellektni loyihalashtiring — ular atrofida koʻp milliard dollarlik kompaniyalar qurilgan (Google, Amazon, Uber). Hatto sizni mamlakatning bir chekkasidan boshqasiga olib boradigan sun'iy intellekt ham... biz buning ustida ishlayapmiz.

Ammo sun'iy intellektdan bolalar kitobini o'qib, u o'rgatmoqchi bo'lgan mazmun, ma'no yoki axloqni tushunishni so'rang yoki sun'iy intellektdan mushuk va zebra surati o'rtasidagi farqni aytib berishini so'rang va natijada siz bir nechta narsaga sabab bo'lasiz. qisqa tutashuvlar.

Tabiat millionlab yillar davomida qayta ishlash, tushunish, o'rganish va yangi vaziyatlarda va yangi muhitda harakat qilishda ustun bo'lgan hisoblash qurilmasini (miya) ishlab chiqdi. Buni so'nggi yarim asrdagi kompyuter fanlari bilan solishtiring, ular o'zlari uchun mo'ljallangan yagona vazifalarga moslashtirilgan hisoblash qurilmalarini yaratishga qaratilgan.

Boshqacha qilib aytadigan bo'lsak, inson-kompyuter - umumiy, sun'iy kompyuter esa mutaxassis.

AGI yaratishdan maqsad toʻgʻridan-toʻgʻri dasturlash orqali emas, balki tajriba orqali inson kabi fikrlash va oʻrganishga qodir boʻlgan sunʼiy intellektni yaratishdir.

Haqiqiy dunyoda bu kelajakdagi AGIni o'qish, yozish va hazil aytishni yoki yurish, yugurish va velosipedda sayr qilishni o'rganishni anglatadi, bu dunyoda o'z tajribasidan kelib chiqqan holda (har qanday tana yoki hissiy organlar/qurilmalar) va boshqa AI va boshqa odamlarning o'zaro ta'siri orqali.

Sun'iy umumiy intellektni yaratish uchun nima kerak bo'ladi

Texnik jihatdan qiyin bo'lsa-da, AGI yaratish mumkin bo'lishi kerak. Agar haqiqatda, fizika qonunlarida chuqur saqlanib qolgan xususiyat mavjud - hisoblashning universalligi - bu jismoniy ob'ekt qila oladigan hamma narsani aytadi, etarlicha kuchli, umumiy maqsadli kompyuter, asosan, nusxa ko'chirish/taqlid qilish imkoniyatiga ega bo'lishi kerak.

Va shunga qaramay, bu qiyin.

Yaxshiyamki, bu ish bo'yicha juda ko'p aqlli AI tadqiqotchilari bor (ularni qo'llab-quvvatlovchi ko'plab korporativ, hukumat va harbiy mablag'lar haqida gapirmasa ham bo'ladi) va hozirgacha ular uchta asosiy tarkibiy qismni aniqladilar. AGI bizning dunyomizga.

Katta ma'lumot. Sun'iy intellektni rivojlantirishning eng keng tarqalgan yondashuvi chuqur o'rganish deb ataladigan texnikani o'z ichiga oladi - bu juda katta hajmdagi ma'lumotlarni to'plash, ushbu ma'lumotlarni simulyatsiya qilingan neyronlar tarmog'ida (inson miyasidan keyin modellashtirilgan) va keyin ishlaydigan mashinani o'rganish tizimining o'ziga xos turi. topilmalardan o'z tushunchalarini dasturlash uchun foydalaning. Chuqur o'rganish haqida batafsil ma'lumot olish uchun, buni o'qing.

Masalan, 2017 yilda, Google oʻzining chuqur oʻrganish tizimi nafaqat mushukni qanday aniqlashni, balki turli mushuk zotlarini farqlashni ham oʻrganish uchun foydalangan mushuklarning minglab tasvirlarini sunʼiy intellektga berdi. Ko'p o'tmay, ular bo'lajak chiqishi haqida e'lon qilishdi Google Lens, foydalanuvchilarga har qanday narsani suratga olish imkonini beruvchi yangi qidiruv ilovasi va Google sizga nafaqat uning nima ekanligini aytib beradi, balki uni tavsiflovchi foydali kontekstual kontentni taklif qiladi — sayohat paytida qulay va siz maʼlum bir turistik diqqatga sazovor joy haqida koʻproq maʼlumot olishni xohlaysiz. Ammo bu erda ham Google Lens o'zining tasvir qidiruv tizimida ro'yxatga olingan milliardlab tasvirlarsiz amalga oshirilmaydi.

Va shunga qaramay, bu katta ma'lumotlar va chuqur o'rganish kombinatsiyasi hali ham AGIni yaratish uchun etarli emas.

Yaxshiroq algoritmlar. So'nggi o'n yil ichida Google sho''ba korxonasi va sun'iy intellekt sohasida yetakchi bo'lgan DeepMind chuqur o'rganishning kuchli tomonlarini mustahkamlovchi o'rganish bilan birlashtirib, shov-shuvga sabab bo'ldi - bu AIga yangi muhitda qanday harakat qilishni o'rgatishga qaratilgan bepul mashinani o'rganish yondashuvi. belgilangan maqsad.

Ushbu gibrid taktika tufayli DeepMind-ning premyerasi AlphaGo nafaqat qoidalarni yuklab olish va usta inson o'yinchilarning strategiyalarini o'rganish orqali AlphaGo-ni qanday o'ynashni o'rgatdi, balki o'ziga qarshi millionlab marta o'ynaganidan so'ng eng yaxshi AlphaGo o'yinchilarini mag'lub etishga muvaffaq bo'ldi. o'yinda hech qachon ko'rilmagan harakatlar va strategiyalardan foydalanish.

Xuddi shunday, DeepMind-ning Atari dasturiy ta'minoti tajribasida sun'iy intellektga odatiy o'yin ekranini ko'rish uchun kamera berish, uni o'yin buyurtmalarini kiritish qobiliyati bilan dasturlash (joystik tugmalari kabi) va unga ballni oshirish uchun yagona maqsadni berish kiradi. Natija? Bir necha kun ichida u o'zini qanday o'ynashni va o'nlab klassik arkada o'yinlarini qanday o'zlashtirishni o'rgatdi.

Ammo bu dastlabki muvaffaqiyatlar qanchalik hayajonli bo'lsa-da, hal qilinishi kerak bo'lgan ba'zi muhim muammolar mavjud.

Birinchisi, sun'iy intellekt tadqiqotchilari sun'iy intellektga inson va hayvonlarning miyalari juda yaxshi bo'lgan "bo'laklash" deb nomlangan hiylani o'rgatish ustida ishlamoqda. Oddiy qilib aytganda, siz oziq-ovqat sotib olishga qaror qilganingizda, siz o'zingizning yakuniy maqsadingizni (avakado sotib olish) va buni qanday amalga oshirishingiz haqida taxminiy rejani tasavvur qila olasiz (uydan chiqing, oziq-ovqat do'koniga tashrif buyuring, xarid qiling). avakado, uyga qayting). Siz qilmaysiz - bu yo'lda har bir nafasni, har bir qadamni, har qanday kutilmagan hodisalarni rejalashtirish. Buning o'rniga, siz qayerga borishni xohlayotganingiz va sayohatingizni yuzaga keladigan har qanday vaziyatga moslashtirmoqchi bo'lgan tushunchangiz (bo'lak) bor.

Qanchalik keng tarqalgan bo'lsa ham, bu qobiliyat inson miyasining sun'iy intellektga nisbatan hali ham mavjud bo'lgan asosiy afzalliklaridan biridir - bu har bir tafsilotni oldindan bilmasdan va biz har qanday to'siq yoki atrof-muhit o'zgarishiga qaramay, maqsad qo'yish va unga intilish qobiliyatidir. duch kelishi mumkin. Ushbu mahorat yuqorida aytib o'tilgan katta ma'lumotlarga muhtoj bo'lmasdan, AGI-larga yanada samaraliroq o'rganish imkonini beradi.

Yana bir qiyinchilik - bu nafaqat kitob o'qish, balki o'qish qobiliyatidir ma'nosini tushunish yoki uning ortidagi kontekst. Uzoq muddatda bu erdagi maqsad AI uchun gazeta maqolasini o'qish va kitob hisobotini yozish kabi o'qiganlari haqidagi bir qator savollarga aniq javob bera olishdir. Bu qobiliyat sun'iy intellektni oddiygina raqamlarni siqib chiqaradigan kalkulyatordan ma'noni buzadigan ob'ektga aylantiradi.

Umuman olganda, inson miyasini taqlid qila oladigan o'z-o'zini o'rganish algoritmining keyingi rivojlanishi AGI ni yaratishda muhim rol o'ynaydi, ammo bu ish bilan bir qatorda AI hamjamiyatiga yaxshi jihozlar kerak.

Yaxshi uskuna. Yuqorida tavsiflangan joriy yondashuvlardan foydalangan holda, AGI faqat uni ishlatish uchun mavjud hisoblash quvvatini jiddiy oshirganimizdan keyingina mumkin bo'ladi.

Kontekstga kelsak, agar biz inson miyasining fikrlash qobiliyatini hisobga olsak va uni hisoblash shartlariga aylantiradigan bo'lsak, unda o'rtacha odamning aqliy qobiliyatining taxminiy bahosi 1,000 petaflopga tengdir ("Flop" har bir kishi uchun suzuvchi nuqta operatsiyalarini anglatadi. ikkinchisi va hisoblash tezligini o'lchaydi).

Taqqoslash uchun, 2018 yil oxiriga kelib, dunyodagi eng kuchli superkompyuter Yaponiyaning AI ko'prik buluti 130 petaflopsda g'o'ng'irlaydi, bu bir eksaflopdan ancha kam.

Bizning maqolamizda aytib o'tilganidek superkompyuterlar bobimiz Kompyuterlar kelajagi AQSH ham, Xitoy ham 2022-yilgacha oʻzlarining exaflop superkompyuterlarini yaratish ustida ishlamoqda, biroq ular muvaffaqiyatli boʻlsa ham, bu hali ham yetarli boʻlmasligi mumkin.

Bu superkompyuterlar bir necha o‘nlab megavatt quvvatda ishlaydi, bir necha yuz kvadrat metr maydonni egallaydi va qurilishiga bir necha yuz million mablag‘ sarflanadi. Inson miyasi atigi 20 vatt quvvat sarflaydi, aylanasi taxminan 50 sm bo'lgan bosh suyagi ichiga sig'adi va biz yetti milliard odammiz (2018). Boshqacha qilib aytadigan bo'lsak, agar biz AGIni odamlar kabi oddiy holga keltirmoqchi bo'lsak, ularni qanday qilib iqtisodiy jihatdan yaratishni o'rganishimiz kerak.

Shu maqsadda AI tadqiqotchilari kelajakdagi sun'iy intellektlarni kvant kompyuterlari bilan quvvatlantirishni ko'rib chiqa boshlaydilar. Batafsil maqolada tasvirlangan kvant kompyuterlar "Kompyuterlarning kelajagi" seriyamizdagi bo'limda ushbu kompyuterlar biz so'nggi yarim asr davomida qurayotgan kompyuterlardan tubdan farq qiladi. 2030-yillarga kelib takomillashtirilgandan so‘ng, bitta kvant kompyuteri 2018-yilda butun dunyo bo‘ylab ishlayotgan har bir superkompyuterdan o‘zib ketadi. Ular, shuningdek, hozirgi superkompyuterlarga qaraganda ancha kichikroq bo'ladi va juda kam energiya sarflaydi.

Qanday qilib sun'iy umumiy intellekt insondan ustun bo'ladi?

Faraz qilaylik, yuqorida sanab o'tilgan har bir muammo aniqlandi, AI tadqiqotchilari birinchi AGI yaratishda muvaffaqiyat qozonishadi. AGI aqli biznikidan qanday farq qiladi?

Bunday savolga javob berish uchun biz AGI ongini robot tanasida yashaydigan uchta toifaga ajratishimiz kerak. Star Trek), jismoniy shaklga ega bo'lganlar, lekin internetga/bulutga simsiz ulanganlar (Agent Smit dan Matrix) va butunlay kompyuterda yoki onlaynda yashaydigan jismoniy shaklga ega bo'lmaganlar (Samantha from o'yinlar).

Boshlash uchun, Internetdan ajratilgan robot tanasi ichidagi AGIlar inson aqli bilan teng raqobatlashadi, ammo tanlangan afzalliklarga ega:

Xotira: AGI robot shaklining dizayniga qarab, ularning qisqa muddatli xotirasi va asosiy ma'lumotlarning xotirasi, albatta, odamlardan ustun bo'ladi. Ammo kun oxirida, biz ularni odamlarga o'xshatish uchun loyihalashtirsak, robotga qattiq diskda qancha joy to'plash mumkin bo'lsa, jismoniy chegarasi bor. Shu sababli, AGI ning uzoq muddatli xotirasi odamlarnikiga juda o'xshab ishlaydi va uning kelajakdagi faoliyati uchun keraksiz deb hisoblangan ma'lumot va xotiralarni faol ravishda unutadi ("disk maydonini" bo'shatish uchun).
Tezlik: Inson miyasi ichidagi neyronlarning ishlashi taxminan 200 gertsga etadi, zamonaviy mikroprotsessorlar esa gigagerts darajasida ishlaydi, shuning uchun neyronlarga qaraganda millionlab marta tezroq. Bu shuni anglatadiki, odamlarga qaraganda, kelajakdagi AGIlar ma'lumotlarni qayta ishlaydi va odamlarga qaraganda tezroq qaror qabul qiladi. E'tibor bering, bu AGI odamlardan ko'ra aqlliroq yoki to'g'riroq qarorlar qabul qilishini anglatmaydi, shunchaki ular tezroq xulosalar chiqarishi mumkin.
Ishlash: Oddiy qilib aytganda, inson miyasi uzoq vaqt dam olmasdan yoki uxlamasdan ishlasa, charchaydi va ishlaganda uning xotirasi, o'rganish va fikrlash qobiliyati buziladi. Ayni paytda, AGI uchun, agar ular muntazam ravishda qayta zaryadlangan bo'lsa (elektr energiyasi) ularda bunday zaiflik bo'lmaydi.
Yangilanish imkoniyati: Inson uchun yangi odatni o'rganish haftalar, yangi ko'nikmani o'rganish oylar va yangi kasbni o'rganish yillar talab qilishi mumkin. AGI uchun ular kompyuteringizning operatsion tizimini muntazam yangilab turishingiz kabi tajriba (odamlar kabi) va to'g'ridan-to'g'ri ma'lumotlarni yuklash orqali o'rganish imkoniyatiga ega bo'ladi. Ushbu yangilanishlar bilimlarni yangilash (yangi ko'nikmalar) yoki AGI ning jismoniy shakliga ishlash samaradorligini oshirish uchun qo'llanilishi mumkin.

Keyinchalik, jismoniy shaklga ega bo'lgan, lekin simsiz internetga/bulutga ulangan AGI-larni ko'rib chiqaylik. Bog'lanmagan AGI bilan taqqoslaganda, biz ushbu daraja bilan ko'rishimiz mumkin bo'lgan farqlarga quyidagilar kiradi:

Xotira: Ushbu AGI-lar oldingi AGI sinfidagi barcha qisqa muddatli afzalliklarga ega bo'ladi, bundan tashqari ular mukammal uzoq muddatli xotiradan ham foyda oladi, chunki ular kerak bo'lganda kirish uchun ushbu xotiralarni bulutga yuklashlari mumkin. Shubhasiz, bu xotiradan ulanish imkoniyati past bo‘lgan hududlarda foydalanish imkoni bo‘lmaydi, biroq 2020 va 2030-yillarda dunyoning ko‘p qismi onlayn bo‘lganda, bu tashvish kamroq bo‘ladi. Batafsil o'qing birinchi bob Bizning Internet kelajagi seriyali.
Tezlik: Ushbu AGI duch keladigan to'siq turiga qarab, ular uni hal qilishda yordam berish uchun bulutning kattaroq hisoblash quvvatiga kirishlari mumkin.
Ishlash: Bog'lanmagan AGI bilan solishtirganda farq yo'q.
Yangilanish imkoniyati: yangilanish bilan bog'liq bo'lgan ushbu AGI o'rtasidagi yagona farq shundaki, ular yangilanish omboriga tashrif buyurish va ulanish o'rniga simsiz ravishda real vaqtda yangilanishlarga kirishlari mumkin.
Kollektiv: Odamlar biz eng katta yoki eng kuchli hayvon bo'lganimiz uchun emas, balki junli mamontni ovlashdan tortib Xalqaro kosmik stansiyani qurishgacha bo'lgan jamoaviy maqsadlarga erishish uchun turli yo'llar bilan muloqot qilish va hamkorlik qilishni o'rganganimiz uchun Yerning dominant turiga aylandi. AGI jamoasi bu hamkorlikni keyingi bosqichga olib chiqadi. Yuqorida sanab o'tilgan barcha kognitiv afzalliklarni hisobga olgan holda va keyin simsiz aloqada ham shaxsan, ham uzoq masofalarda aloqa qilish qobiliyatini birlashtirgan holda, kelajakdagi AGI jamoasi/uyaning aqli nazariy jihatdan loyihalarni odamlar jamoasiga qaraganda ancha samaraliroq hal qila oladi.

Nihoyat, AGI ning oxirgi turi jismoniy shaklsiz versiya bo'lib, u kompyuter ichida ishlaydi va uni yaratuvchilari tomonidan taqdim etilgan to'liq hisoblash quvvati va onlayn resurslardan foydalanish imkoniyatiga ega. Ilmiy-fantastik shoularda va kitoblarda bu AGI odatda ekspert virtual yordamchilari/do'stlari yoki kosmik kemaning ajoyib operatsion tizimi shaklida bo'ladi. Ammo AGI ning boshqa ikkita toifasi bilan solishtirganda, bu AI quyidagi yo'llar bilan farq qiladi;

Tezlik: Cheksiz (yoki hech bo'lmaganda u foydalanishi mumkin bo'lgan apparat chegaralarigacha).
Xotira: cheksiz
Ishlash: Superkompyuter markazlariga kirish imkoniyati tufayli qaror qabul qilish sifatini oshirish.
Yangilanish imkoniyati: mutlaq, real vaqtda va kognitiv yangilanishlarning cheksiz tanlovi bilan. Albatta, ushbu AGI toifasi jismoniy robot shakliga ega emasligi sababli, agar ushbu yangilanishlar o'zi ishlaydigan superkompyuterlarga tegishli bo'lmasa, u jismoniy yangilanishlarga muhtoj bo'lmaydi.
Kollektiv: Oldingi AGI toifasiga o'xshab, bu tanasiz AGI AGI hamkasblari bilan samarali hamkorlik qiladi. Biroq, cheksiz hisoblash kuchiga to'g'ridan-to'g'ri kirish va onlayn resurslarga kirishni hisobga olgan holda, bu AGI odatda umumiy AGI jamoasida etakchi rollarni o'z zimmasiga oladi.

Insoniyat qachon birinchi sun'iy umumiy intellektni yaratadi?

AI tadqiqot hamjamiyati qonuniy AGI ixtiro qilishiga ishonishlari uchun aniq sana yo'q. Biroq, a 2013 so'rov AI tadqiqotchisi Nik Bostrom va Vinsent C. Myuller tomonidan o'tkazilgan 550 ta eng yaxshi AI tadqiqotchilarining fikricha, o'rtacha uch yilga bo'lgan fikrlar:

Median optimistik yil (10% ehtimollik): 2022 yil
Median real yil (50% ehtimollik): 2040
O'rtacha pessimistik yil (90% ehtimollik): 2075 yil

Bu prognozlar qanchalik aniq ekanligi muhim emas. Muhimi shundaki, sun'iy intellekt bo'yicha tadqiqotchilar hamjamiyatining aksariyati biz AGI ni umrimiz davomida va bu asrning nisbatan boshida ixtiro qilamiz, deb hisoblaydi.

Sun'iy umumiy intellektni yaratish insoniyatni qanday o'zgartiradi

Biz ushbu yangi AIning ta'sirini ushbu seriyaning oxirgi bobida batafsil o'rganamiz. Ya'ni, ushbu bobda biz aytamizki, AGI yaratilishi odamlar Marsda hayot topsa, biz boshdan kechiradigan ijtimoiy reaktsiyaga juda o'xshash bo'ladi.

Bitta lager buning ahamiyatini tushunmaydi va olimlar yana bir kuchliroq kompyuter yaratish borasida katta ish olib bormoqdalar, deb o‘ylashda davom etadilar.

Ludditlar va dindor odamlardan iborat bo'lgan yana bir lager, SkyNet uslubidagi insoniyatni yo'q qilishga urinishini jirkanch deb o'ylab, bu AGIdan qo'rqishadi. Ushbu lager barcha shakllarda AGIlarni yo'q qilish/yo'q qilishni faol ravishda qo'llab-quvvatlaydi.

Boshqa tomondan, uchinchi lager bu ijodni zamonaviy ruhiy hodisa sifatida ko'radi. Muhim bo'lgan barcha yo'llar bilan, bu AGI hayotning yangi shakli bo'ladi, u bizdan boshqacha fikr yuritadi va maqsadlari biznikidan farq qiladi. AGI yaratilishi e'lon qilingandan so'ng, odamlar endi Yerni shunchaki hayvonlar bilan bo'lishmaydi, balki aqli biznikidan teng yoki undan yuqori bo'lgan sun'iy mavjudotlarning yangi sinfi bilan birga bo'lishadi.

To'rtinchi lagerda ishbilarmonlik manfaatlarini o'z ichiga oladi, ular mehnat bozoridagi bo'shliqlarni to'ldirish va yangi tovarlar va xizmatlarni ishlab chiqishni jadallashtirish kabi turli xil biznes ehtiyojlarini qondirish uchun AGI dan qanday foydalanishi mumkinligini o'rganadi.

Keyinchalik, bizda hukumatning barcha darajadagi vakillari bor, ular AGIni qanday tartibga solishni tushunishga harakat qilishadi. Bu barcha axloqiy va falsafiy munozaralar, xususan, ushbu AGIlarga mulk sifatida yoki shaxs sifatida munosabatda bo'lish atrofida boshga tushadigan darajadir.

Va nihoyat, oxirgi lager harbiy va milliy xavfsizlik idoralari bo'ladi. Haqiqatan ham, birinchi AGIning ommaviy e'lon qilinishi faqat ushbu lager tufayli bir necha oydan yillarga kechiktirilishi mumkin. Nega? Chunki AGI ixtirosi qisqa vaqt ichida ulkan geosiyosiy tahdid va yadroviy bomba ixtirosidan ancha ustun bo'lgan imkoniyatni ifodalovchi sun'iy superintellektni (ASI) yaratishga olib keladi.

Shu sababli, keyingi bir necha boblar butunlay ASIs mavzusiga va uning ixtirosidan keyin insoniyat omon qoladimi yoki yo'qmi degan mavzuga qaratiladi.

(Bo'limni tugatishning o'ta dramatik usuli? Siz betcha.)