Quantumrun

CREDIT NG LARAWAN: Quantumrun

Paano babaguhin ng unang Artificial General Intelligence ang lipunan: Kinabukasan ng artificial intelligence P2

David Tal, Publisher, Futurist
@DavidTalWrites
LinkedIn

Martes, 09/15/2020 - 13:08

Nagtayo kami ng mga pyramid. Natuto kaming gumamit ng kuryente. Naiintindihan natin kung paano nabuo ang ating uniberso pagkatapos ng Big Bang (karamihan). At siyempre, ang cliché na halimbawa, naglagay kami ng isang tao sa buwan. Gayunpaman, sa kabila ng lahat ng mga nagawang ito, ang utak ng tao ay nananatiling malayo sa pag-unawa sa modernong siyensiya at, bilang default, ang pinakamasalimuot na bagay sa kilalang uniberso—o hindi bababa sa ating pag-unawa dito.

Dahil sa katotohanang ito, hindi dapat lubos na nakakagulat na hindi pa tayo nakakagawa ng isang artificial intelligence (AI) na katumbas ng mga tao. Isang AI tulad ng Data (Star Trek), Rachael (Blade Runner), at David (Prometheus), o non-humanoid AI tulad ni Samantha (Her) at TARS (Interstellar), lahat ito ay mga halimbawa ng susunod na mahusay na milestone sa pagbuo ng AI: artipisyal na pangkalahatang katalinuhan (AGI, minsan ay tinutukoy din bilang HLMI o Human Level Machine Intelligence).

Sa madaling salita, ang hamon na kinakaharap ng mga mananaliksik ng AI ay: Paano tayo makakabuo ng isang artipisyal na isip na maihahambing sa ating sarili kung wala tayong ganap na pag-unawa sa kung paano gumagana ang ating sariling isip?

Susuriin natin ang tanong na ito, kasama ng kung paano magsasalansan ang mga tao laban sa mga hinaharap na AGI, at sa wakas, kung paano magbabago ang lipunan sa araw pagkatapos ipahayag ang unang AGI sa mundo.

Ano ang isang artipisyal na pangkalahatang katalinuhan?

Magdisenyo ng AI na kayang talunin ang mga nangungunang manlalaro sa Chess, Jeopardy, at Go, madali (Deep Blue, Watson, at AlphaGO ayon sa pagkakabanggit). Magdisenyo ng AI na makapagbibigay sa iyo ng mga sagot sa anumang tanong, magmungkahi ng mga item na maaaring gusto mong bilhin, o mamahala ng isang fleet ng mga rideshare taxi—buong multi-bilyong dolyar na kumpanya ay binuo sa paligid nila (Google, Amazon, Uber). Kahit na ang isang AI na maaaring magmaneho sa iyo mula sa isang bahagi ng bansa patungo sa isa pa ... mabuti, ginagawa namin ito.

Ngunit hilingin sa isang AI na magbasa ng librong pambata at maunawaan ang nilalaman, kahulugan o moral na sinusubukan nitong ituro, o hilingin sa isang AI na sabihin ang pagkakaiba sa pagitan ng larawan ng isang pusa at isang zebra, at magdudulot ka ng higit sa iilan. mga short circuit.

Ang kalikasan ay gumugol ng milyun-milyong taon sa pagbuo ng isang computing device (utak) na mahusay sa pagproseso, pag-unawa, pag-aaral, at pagkatapos ay kumikilos sa mga bagong sitwasyon at sa loob ng mga bagong kapaligiran. Ihambing iyon sa huling kalahating siglo ng computer science na nakatuon sa paglikha ng mga computing device na iniakma sa mga natatanging gawain kung saan sila idinisenyo.

Sa madaling salita, ang human-computer ay isang generalist, habang ang artipisyal na computer ay isang espesyalista.

Ang layunin ng paglikha ng isang AGI ay upang lumikha ng isang AI na maaaring mag-isip at matuto nang higit pa tulad ng isang tao, sa pamamagitan ng karanasan sa halip na sa pamamagitan ng direktang programming.

Sa totoong mundo, ito ay mangangahulugan ng hinaharap na AGI na natutong magbasa, magsulat, at magsabi ng biro, o maglakad, tumakbo at sumakay ng bisikleta nang mag-isa, sa pamamagitan ng sarili nitong karanasan sa mundo (gamit ang anumang katawan o sensory organ/device na ibinibigay namin dito), at sa pamamagitan ng sarili nitong pakikipag-ugnayan sa ibang AI at iba pang tao.

Ano ang kinakailangan upang makabuo ng isang artipisyal na pangkalahatang katalinuhan

Bagama't mahirap sa teknikal, dapat na posible ang paggawa ng AGI. Kung totoo man, mayroong malalim na pinanghahawakang pag-aari sa loob ng mga batas ng pisika—ang universality ng computation—na karaniwang nagsasabi ng lahat ng bagay na maaaring gawin ng isang pisikal na bagay, ang isang sapat na makapangyarihan, pangkalahatang layunin na computer ay dapat, sa prinsipyo, ay kayang kopyahin/gayahin.

At gayon pa man, ito ay nakakalito.

Sa kabutihang palad, maraming matatalinong mananaliksik ng AI sa kaso (hindi banggitin ang maraming pagpopondo ng korporasyon, gobyerno at militar na sumusuporta sa kanila), at sa ngayon, natukoy na nila ang tatlong pangunahing sangkap na sa tingin nila ay kinakailangan upang malutas upang magkaroon ng isang AGI sa ating mundo.

Big data. Ang pinakakaraniwang diskarte sa pagbuo ng AI ay nagsasangkot ng isang pamamaraan na tinatawag na malalim na pagkatuto—isang partikular na uri ng sistema ng pag-aaral ng makina na gumagana sa pamamagitan ng pag-slurping ng napakalaking data, pag-crunch ng nasabing data sa isang network ng mga simulate na neuron (ginawa ayon sa utak ng tao), at pagkatapos gamitin ang mga natuklasan upang iprograma ang sarili nitong mga insight. Para sa higit pang mga detalye tungkol sa malalim na pag-aaral, basahin ito.

Halimbawa, sa 2017, Pinakain ng Google ang AI nito ng libu-libong larawan ng mga pusa na ginamit ng malalim na sistema ng pag-aaral nito upang matutunan hindi lamang kung paano makilala ang isang pusa, ngunit makilala ang pagkakaiba sa pagitan ng iba't ibang lahi ng pusa. Hindi nagtagal, inihayag nila ang nalalapit na pagpapalabas ng Google Lens, isang bagong app sa paghahanap na nagbibigay-daan sa mga user na kumuha ng larawan ng anuman at hindi lang sasabihin sa iyo ng Google kung ano ito, ngunit nag-aalok ng ilang kapaki-pakinabang na nilalamang kontekstwal na naglalarawan dito-madaling gamitin kapag naglalakbay at gusto mong matuto nang higit pa tungkol sa isang partikular na atraksyong panturista. Ngunit dito rin, hindi magiging posible ang Google Lens kung wala ang bilyun-bilyong larawan na kasalukuyang nakalista sa search engine ng imahe nito.

Gayunpaman, hindi pa rin sapat ang big data at deep learning combo na ito para magkaroon ng AGI.

Mas mahusay na mga algorithm. Sa nakalipas na dekada, isang subsidiary at pinuno ng Google sa AI space, ang DeepMind, ay gumawa ng isang splash sa pamamagitan ng pagsasama-sama ng mga lakas ng malalim na pag-aaral sa reinforcement learning—isang komplimentaryong diskarte sa machine learning na naglalayong turuan ang AI kung paano gumawa ng mga aksyon sa mga bagong kapaligiran upang makamit. isang nakatakdang layunin.

Salamat sa hybrid na taktika na ito, ang pangunahin na AI ng DeepMind, ang AlphaGo, ay hindi lamang nagturo sa sarili kung paano laruin ang AlphaGo sa pamamagitan ng pag-download ng mga patakaran at pag-aaral ng mga diskarte ng mga dalubhasang manlalaro ng tao, ngunit pagkatapos maglaro laban sa sarili nitong milyun-milyong beses ay nagawang talunin ang pinakamahusay na mga manlalaro ng AlphaGo gamit ang mga galaw at estratehiya na hindi pa nakikita sa laro.

Gayundin, ang eksperimento ng software ng Atari ng DeepMind ay nagsasangkot ng pagbibigay sa AI ng camera upang makita ang isang tipikal na screen ng laro, pagprograma nito ng kakayahang mag-input ng mga order ng laro (tulad ng mga pindutan ng joystick), at pagbibigay dito ng natatanging layunin upang mapataas ang marka nito. Ang resulta? Sa loob ng ilang araw, itinuro nito ang sarili kung paano maglaro at kung paano makabisado ang dose-dosenang klasikong arcade game.

Ngunit kahit gaano kapana-panabik ang mga naunang tagumpay na ito, nananatili pa ring ilang mahahalagang hamon na dapat lutasin.

Para sa isa, ang mga mananaliksik ng AI ay nagsusumikap sa pagtuturo sa AI ng isang trick na tinatawag na 'chunking' kung saan ang mga utak ng tao at hayop ay napakahusay. Sa madaling salita, kapag nagpasya kang lumabas para bumili ng mga pamilihan, makikita mo ang iyong layunin sa pagtatapos (pagbili ng abukado) at isang magaspang na plano kung paano mo ito gagawin (umalis ng bahay, bumisita sa grocery store, bumili ang avocado, bumalik sa bahay). Ang hindi mo gagawin ay planuhin ang bawat paghinga, bawat hakbang, bawat posibleng mangyari sa iyong pagpunta doon. Sa halip, mayroon kang isang konsepto (tipak) sa iyong isip kung saan mo gustong pumunta at iakma ang iyong paglalakbay sa anumang sitwasyon na darating.

Karaniwang nararamdaman mo, ang kakayahang ito ay isa sa mga pangunahing bentahe ng utak ng tao kumpara sa AI—ito ang kakayahang umangkop upang magtakda ng layunin at ituloy ito nang hindi nalalaman ang bawat detalye nang maaga at sa kabila ng anumang hadlang o pagbabago sa kapaligiran. maaaring makaharap. Ang kasanayang ito ay magbibigay-daan sa mga AGI na matuto nang mas mahusay, nang hindi nangangailangan ng malaking data na binanggit sa itaas.

Ang isa pang hamon ay ang kakayahang hindi lamang magbasa ng libro kundi maunawaan ang kahulugan o konteksto sa likod nito. Pangmatagalan, ang layunin dito ay para sa isang AI na magbasa ng isang artikulo sa pahayagan at makasagot nang tumpak sa isang hanay ng mga tanong tungkol sa kung ano ang nabasa nito, tulad ng pagsulat ng isang ulat sa aklat. Ang kakayahang ito ay magpapabago sa isang AI mula sa simpleng calculator na nag-crunch ng mga numero tungo sa isang entity na nag-crunch ng kahulugan.

Sa pangkalahatan, ang mga karagdagang pag-unlad sa isang self-learning algorithm na maaaring gayahin ang utak ng tao ay gaganap ng isang mahalagang papel sa paglikha ng isang AGI, ngunit kasabay ng gawaing ito, ang AI community ay nangangailangan din ng mas mahusay na hardware.

Mas mahusay na hardware. Gamit ang mga kasalukuyang diskarte na ipinaliwanag sa itaas, magiging posible lamang ang isang AGI pagkatapos nating seryosong palakasin ang magagamit na kapangyarihan sa pag-compute para patakbuhin ito.

Para sa konteksto, kung kinuha natin ang kakayahan ng utak ng tao na mag-isip at i-convert ito sa computational terms, kung gayon ang magaspang na pagtatantya ng average na kapasidad ng pag-iisip ng tao ay isang exaflop, na katumbas ng 1,000 petaflops ('Flop' ay nangangahulugang floating-point operations bawat pangalawa at sinusukat ang bilis ng pagtutuos).

Sa paghahambing, sa pagtatapos ng 2018, ang pinakamakapangyarihang supercomputer sa mundo, ang Japan AI Bridging Cloud ay humuhuni sa 130 petaflops, malayong kulang sa isang exaflop.

Gaya ng nakabalangkas sa aming supercomputers kabanata sa ating Kinabukasan ng mga Computer serye, parehong nagtatrabaho ang US at China na bumuo ng sarili nilang mga exaflop supercomputer sa 2022, ngunit kahit na matagumpay sila, maaaring hindi pa rin iyon sapat.

Ang mga supercomputer na ito ay nagpapatakbo sa ilang dosenang megawatts ng kapangyarihan, kumukuha ng ilang daang metro kuwadrado ng espasyo, at nagkakahalaga ng ilang daang milyon upang maitayo. Gumagamit lamang ng 20 watts ng kapangyarihan ang utak ng tao, umaangkop sa loob ng bungo na humigit-kumulang 50 cm ang circumference, at may pitong bilyon sa atin (2018). Sa madaling salita, kung gusto nating gawing karaniwan ang mga AGI gaya ng mga tao, kakailanganin nating matutunan kung paano likhain ang mga ito nang mas matipid.

Sa layuning iyon, ang mga mananaliksik ng AI ay nagsisimulang isaalang-alang ang pagpapagana ng mga hinaharap na AI gamit ang mga quantum computer. Inilarawan nang mas detalyado sa kabuuan ng mga computer kabanata sa aming serye ng Future of Computers, ang mga computer na ito ay gumagana sa isang panimula na naiibang paraan kaysa sa mga computer na aming binuo sa huling kalahating siglo. Kapag naperpekto na noong 2030s, isang quantum computer ang mag-out-compute sa bawat supercomputer na kasalukuyang gumagana sa 2018, sa buong mundo, na pinagsama-sama. Magiging mas maliit din ang mga ito at gumamit ng mas kaunting enerhiya kaysa sa mga kasalukuyang supercomputer.

Paano magiging superior ang isang artipisyal na pangkalahatang katalinuhan kaysa sa isang tao?

Ipagpalagay natin na ang bawat hamon na nakalista sa itaas ay mauunawaan, na ang mga mananaliksik ng AI ay nagtagumpay sa paglikha ng unang AGI. Paano magiging iba ang isip ng AGI kaysa sa ating sarili?

Upang masagot ang ganitong uri ng tanong, kailangan nating uriin ang mga isip ng AGI sa tatlong kategorya, ang mga naninirahan sa loob ng katawan ng robot (Data mula sa Star mangibang-bayan), yaong may pisikal na anyo ngunit nakakonekta nang wireless sa internet/cloud (Agent Smith mula sa Ang matrix) at ang mga walang pisikal na anyo na ganap na nabubuhay sa isang computer o online (si Samantha mula sa Kanya).

Upang magsimula, ang mga AGI sa loob ng isang robotic body na nakahiwalay sa web ay makikipagkumpitensya sa par sa isip ng tao, ngunit may mga piling pakinabang:

Memorya: Depende sa disenyo ng robotic form ng AGI, ang kanilang panandaliang memorya at memorya ng pangunahing impormasyon ay tiyak na higit na mataas kaysa sa mga tao. Ngunit sa pagtatapos ng araw, mayroong pisikal na limitasyon sa kung gaano karaming espasyo sa hard drive ang maaari mong i-pack sa robot, sa pag-aakalang idinisenyo namin ang mga ito upang magmukhang tao. Para sa kadahilanang ito, ang pangmatagalang memorya ng mga AGI ay kikilos na katulad ng sa mga tao, na aktibong nakakalimutan ang impormasyon at mga alaala na itinuturing na hindi kailangan para sa paggana nito sa hinaharap (upang mapalaya ang 'disk space').
Bilis: Ang pagganap ng mga neuron sa loob ng utak ng tao ay max out sa humigit-kumulang 200 hertz, samantalang ang mga modernong microprocessor ay tumatakbo sa antas ng gigahertz, kaya milyun-milyong beses na mas mabilis kaysa sa mga neuron. Nangangahulugan ito kumpara sa mga tao, ang mga hinaharap na AGI ay magpoproseso ng impormasyon at gagawa ng mga desisyon nang mas mabilis kaysa sa mga tao. Bale, hindi ito nangangahulugan na ang AGI na ito ay gagawa ng mas matalinong o mas tamang mga desisyon kaysa sa mga tao, para lang mas mabilis silang makakapagdesisyon.
Pagganap: Sa madaling salita, napapagod ang utak ng tao kung ito ay gumagana nang napakatagal nang walang pahinga o tulog, at kapag nangyari ito, ang memorya nito at ang kakayahang matuto at mangatuwiran ay nababawasan. Samantala, para sa mga AGI, ipagpalagay na regular silang na-recharge (kuryente), hindi sila magkakaroon ng kahinaan.
Pag-upgrade: Para sa isang tao, ang pag-aaral ng bagong ugali ay maaaring tumagal ng ilang linggo ng pagsasanay, ang pag-aaral ng bagong kasanayan ay maaaring tumagal ng ilang buwan, at ang pag-aaral ng bagong propesyon ay maaaring tumagal ng mga taon. Para sa isang AGI, magkakaroon sila ng kakayahang matuto pareho sa pamamagitan ng karanasan (tulad ng mga tao) at sa pamamagitan ng direktang pag-upload ng data, katulad ng kung paano mo regular na ina-update ang OS ng iyong computer. Maaaring malapat ang mga update na ito sa mga upgrade ng kaalaman (mga bagong kasanayan) o mga upgrade sa performance sa pisikal na anyo ng AGI.

Susunod, tingnan natin ang mga AGI na mayroong pisikal na anyo, ngunit nakakonekta rin nang wireless sa internet/cloud. Ang mga pagkakaiba na makikita natin sa antas na ito kapag inihambing sa mga hindi konektadong AGI ay kinabibilangan ng:

Memorya: Ang mga AGI na ito ay magkakaroon ng lahat ng panandaliang bentahe na mayroon ang nakaraang klase ng AGI, maliban na ang mga ito ay makikinabang din sa perpektong pangmatagalang memorya dahil maaari nilang i-upload ang mga alaalang iyon sa cloud upang ma-access kapag kinakailangan. Malinaw, ang memorya na ito ay hindi maa-access sa mga lugar na mababa ang koneksyon, ngunit ito ay magiging hindi gaanong alalahanin sa panahon ng 2020s at 2030s kapag mas marami sa mundo ang online. Magbasa nang higit pa sa unang kabanata ng ating Kinabukasan ng Internet serye.
Bilis: Depende sa uri ng obstacle na kinakaharap ng AGI na ito, maa-access nila ang mas malaking computing power ng cloud para matulungan silang malutas ito.
Pagganap: Walang pagkakaiba kung ihahambing sa mga hindi konektadong AGI.
Upgradability: Ang tanging pagkakaiba sa pagitan ng AGI na ito dahil nauugnay ito sa upgradability ay ang pag-access nila ng mga upgrade sa real time, nang wireless, sa halip na bumisita at magsaksak sa isang upgrade depot.
Kolektibo: Ang mga tao ay naging nangingibabaw na species ng Earth hindi dahil kami ang pinakamalaki o pinakamalakas na hayop, ngunit dahil natutunan namin kung paano makipag-usap at makipagtulungan sa iba't ibang paraan upang makamit ang mga sama-samang layunin, mula sa pangangaso sa isang Woolly Mammoth hanggang sa pagbuo ng International Space Station. Dadalhin ng isang pangkat ng mga AGI ang pakikipagtulungang ito sa susunod na antas. Dahil sa lahat ng mga cognitive advantage na nakalista sa itaas at pagkatapos ay pagsamahin iyon sa kakayahang makipag-usap nang wireless, sa personal at sa malalayong distansya, ang hinaharap na AGI team/hive mind ay maaaring theoretically tackle projects na mas mahusay kaysa sa isang team ng mga tao.

Sa wakas, ang huling uri ng AGI ay ang bersyon na walang pisikal na anyo, isa na gumagana sa loob ng isang computer, at may access sa buong kapangyarihan sa pag-compute at mga online na mapagkukunan na ibinibigay ng mga tagalikha nito. Sa mga palabas at aklat ng sci-fi, ang mga AGI na ito ay karaniwang nasa anyo ng mga dalubhasang virtual assistant/kaibigan o ang magaling na operating system ng isang spaceship. Ngunit kumpara sa iba pang dalawang kategorya ng AGI, ang AI na ito ay mag-iiba sa mga sumusunod na paraan;

Bilis: Walang limitasyon (o, hindi bababa sa mga limitasyon ng hardware na mayroon itong access).
Memorya: Walang limitasyon
Pagganap: Pagtaas sa kalidad ng paggawa ng desisyon salamat sa pag-access nito sa mga supercomputing center.
Upgradability: Ganap, sa real time, at may walang limitasyong seleksyon ng mga cognitive upgrade. Siyempre, dahil walang pisikal na robot form ang kategoryang ito ng AGI, hindi na ito mangangailangan ng mga available na pisikal na upgrade maliban kung ang mga pag-upgrade na iyon ay sa mga supercomputer na pinapatakbo nito.
Kolektibo: Katulad ng nakaraang kategorya ng AGI, mabisang makikipagtulungan ang walang katawan na AGI na ito sa mga kasamahan nito sa AGI. Gayunpaman, dahil sa mas direktang pag-access nito sa walang limitasyong kapangyarihan sa pag-compute at pag-access sa mga online na mapagkukunan, ang mga AGI na ito ay karaniwang magsasagawa ng mga tungkulin sa pamumuno sa isang pangkalahatang kolektibong AGI.

Kailan lilikha ang sangkatauhan ng unang artipisyal na pangkalahatang katalinuhan?

Walang nakatakdang petsa kung kailan naniniwala ang AI research community na mag-iimbento sila ng isang lehitimong AGI. Gayunpaman, a 2013 survey sa 550 sa mga nangungunang AI researcher sa mundo, na isinagawa ng mga nangungunang AI research thinker na sina Nick Bostrom at Vincent C. Müller, ay nag-average ng hanay ng mga opinyon sa tatlong posibleng taon:

Median optimistic year (10% posibilidad): 2022
Median makatotohanang taon (50% posibilidad): 2040
Median pessimistic na taon (90% posibilidad): 2075

Hindi mahalaga kung gaano katumpak ang mga hulang ito. Ang mahalaga ay naniniwala ang karamihan sa komunidad ng pagsasaliksik ng AI na makakaimbento tayo ng AGI sa loob ng ating buhay at medyo maaga sa siglong ito.

Paano mababago ng paglikha ng isang artipisyal na pangkalahatang katalinuhan ang sangkatauhan

Ine-explore namin ang epekto ng bagong AI na ito nang detalyado sa buong huling kabanata ng seryeng ito. Iyon ay sinabi, para sa kabanatang ito, sasabihin namin na ang paglikha ng isang AGI ay magiging halos kapareho sa reaksyon ng lipunan na aming mararanasan kapag ang mga tao ay makahanap ng buhay sa Mars.

Ang isang kampo ay hindi mauunawaan ang kahalagahan at magpapatuloy sa pag-iisip na ang mga siyentipiko ay gumagawa ng malaking deal tungkol sa paglikha ng isa pang mas malakas na computer.

Ang isa pang kampo, malamang na binubuo ng mga Luddite at mga indibidwal na may pag-iisip sa relihiyon, ay matatakot sa AGI na ito, sa pag-aakalang ito ay isang kasuklam-suklam na susubukan nitong lipulin ang istilong SkyNet ng sangkatauhan. Ang kampo na ito ay aktibong magsusulong na tanggalin/sirain ang mga AGI sa lahat ng kanilang anyo.

Sa kabilang banda, titingnan ng ikatlong kampo ang paglikha na ito bilang isang modernong espirituwal na kaganapan. Sa lahat ng mga paraan na mahalaga, ang AGI na ito ay magiging isang bagong anyo ng buhay, isa na iba ang iniisip kaysa sa atin at ang mga layunin ay iba kaysa sa atin. Sa sandaling ipahayag ang paglikha ng isang AGI, hindi na ibabahagi ng mga tao ang Earth sa mga hayop lamang, ngunit kasama na rin ang isang bagong klase ng mga artipisyal na nilalang na ang katalinuhan ay kapantay o mas mataas kaysa sa atin.

Kasama sa ikaapat na kampo ang mga interes sa negosyo na mag-iimbestiga kung paano nila magagamit ang mga AGI upang matugunan ang iba't ibang pangangailangan ng negosyo, tulad ng pagpupuno ng mga puwang sa merkado ng paggawa at pagpapabilis ng pagbuo ng mga bagong produkto at serbisyo.

Susunod, mayroon tayong mga kinatawan mula sa lahat ng antas ng gobyerno na magtutulak sa kanilang sarili sa pagsisikap na magkaroon ng kahulugan kung paano i-regulate ang mga AGI. Ito ang antas kung saan ang lahat ng moralizing at pilosopikal na debate ay darating sa isang ulo, partikular sa paligid kung ituturing ang mga AGI na ito bilang pag-aari o bilang mga tao.

At sa wakas, ang huling kampo ay ang mga ahensya ng militar at pambansang seguridad. Sa totoo lang, malaki ang posibilidad na maantala ng mga buwan hanggang taon ang pampublikong anunsyo ng unang AGI dahil sa kampong ito lamang. Bakit? Dahil ang pag-imbento ng isang AGI, ay hahantong sa maikling pagkakasunud-sunod sa paglikha ng isang artificial superintelligence (ASI), isa na magre-represent ng isang napakalaking geopolitical na banta at isang pagkakataon na higit pa sa pag-imbento ng nuclear bomb.

Para sa kadahilanang ito, ang mga susunod na kabanata ay ganap na nakatuon sa paksa ng mga ASI at kung ang sangkatauhan ay mabubuhay pagkatapos ng pag-imbento nito.

(Sobrang dramatic na paraan para tapusin ang isang kabanata? Betcha ka.)