Kumaha manusa bakal membela ngalawan hiji Superintelligence jieunan: Masa depan kecerdasan jieunan P5

Taun nyaéta 65,000 SM, sareng salaku a Thylacoleo, anjeun jeung jenis anjeun éta hunters hébat Australia kuna. Anjeun roaming lahan kalawan bébas tur hirup dina kasaimbangan jeung sasama prédator jeung mangsa nu nempatan darat barengan anjeun. Musim mawa parobahan, tapi status anjeun dina karajaan sato tetep unchallenged salami anjeun jeung karuhun anjeun bisa apal. Lajeng hiji poé, pendatang anyar mucunghul.

Gosip geus eta aranjeunna anjog ti témbok cai raksasa, tapi mahluk ieu seemed leuwih nyaman hirup di darat. Anjeun kedah ningali makhluk ieu nyalira.

Butuh waktu sababaraha poé, tapi anjeun tungtungna nepi ka basisir. Seuneu di langit ieu netepkeun, waktos sampurna nénjo dina mahluk ieu, malah meureun coba dahar hiji ningali kumaha aranjeunna sakecap.

Anjeun titik hiji.

Éta leumpang dina dua suku sareng henteu ngagaduhan bulu. Katémbong leuleus. Teu kaampeuh. Boro-boro patut sieun ieu ngabalukarkeun diantara karajaan.

Anjeun ngawitan taliti nyieun pendekatan anjeun sakumaha peuting chases jauh lampu. Anjeun beuki deukeut. Lajeng anjeun freeze. Sora-sora anu nyaring disada, teras opat deui muncul ti leuweung tukangeunana. Aya sabaraha?

mahluk nu nuturkeun batur kana treeline nu, jeung anjeun nuturkeun. Sareng langkung seueur anu anjeun laksanakeun, sora anu langkung anéh anu anjeun kadéngé dugi ka anjeun mendakan langkung seueur mahluk ieu. Anjeun nuturkeun ti kajauhan nalika aranjeunna kaluar ti leuweung kana clearing di sisi basisir. Aya loba di antarana. Tapi anu langkung penting, aranjeunna sadayana anteng linggih di sabudeureun seuneu.

Anjeun parantos ningali kahuruan ieu sateuacanna. Dina usum panas, seuneu di langit kadang nganjang ka darat jeung ngaduruk sakabéh leuweung. Makhluk-makhluk ieu, di sisi anu sanés, aranjeunna kumaha waé ngadalikeunana. Makhluk naon waé anu tiasa gaduh kakuatan sapertos kitu?

Anjeun neuteup ka kajauhan. Langkung seueur anu datang ngaliwatan témbok cai raksasa.

Anjeun mundur saléngkah.

Makhluk ieu henteu sapertos anu sanés di karajaan. Éta hal sagemblengna anyar.

Anjeun mutuskeun ninggalkeun sarta ngingetkeun baraya Anjeun. Upami jumlahna ageung teuing, saha anu terang naon anu bakal kajadian.

***

Hal ieu dipercaya yén Thylakoleo punah dina waktu anu relatif pondok sanggeus datangna manusa, babarengan jeung mayoritas megafauna lianna di buana Australia. Taya prédator mamalia apex séjén nyokot tempatna-éta iwal mun cacah manusa dina kategori éta.

Maén off allegori ieu fokus dina bab runtuyan ieu: Bakal a superintelligence jieunan hareup (ASI) ngahurungkeun urang sadayana kana accu lajeng nyolok kami kana Matrix atawa bakal manusa manggihan cara pikeun nyingkahan jadi korban sci-fi a, Plot kiamat AI?

Sajauh dina runtuyan urang dina Kahareup Kecerdasan Jieunan, kami geus ngajajah sagala jinis AI, kaasup potensi positif bentuk husus AI, ASI: mahluk jieunan nu kecerdasan hareup bakal nyieun urang kasampak kawas sireum di ngabandingkeun.

Tapi saha nu nyebutkeun yén mahluk pinter ieu bakal nampa pesenan ti manusa salawasna. Naon anu bakal urang laksanakeun upami aya di kidul? Kumaha urang bakal ngabela ngalawan ASI anu jahat?

Dina bab ieu, urang bakal ngaleungitkeun hype palsu-sahenteuna anu aya hubunganana sareng bahaya 'tingkat punah manusa'-sareng fokus kana pilihan pertahanan diri anu réalistis anu sayogi pikeun pamaréntah dunya.

Naha urang tiasa ngeureunkeun sagala panalungtikan salajengna kana superintelligence jieunan?

Dibikeun résiko poténsial anu tiasa ditimbulkeun ku ASI pikeun umat manusa, patarosan anu atra anu munggaran ditaroskeun nyaéta: Naha urang tiasa ngeureunkeun sadaya panilitian salajengna ngeunaan AI? Atanapi sahenteuna nyaram panalungtikan anu tiasa nyababkeun urang caket kana nyiptakeun ASI?

Jawaban pondok: Henteu.

jawaban panjang: Hayu urang nempo pamaén béda aub di dieu.

Dina tingkat panalungtikan, aya seueur teuing peneliti AI ayeuna ti seueur teuing startup, perusahaan, sareng universitas di sakumna dunya. Upami hiji perusahaan atanapi nagara mutuskeun pikeun ngawatesan usaha panalungtikan AI, aranjeunna ngan saukur bakal neraskeun ka tempat sanés.

Samentawis éta, perusahaan-perusahaan anu paling berharga di pangeusina nuju ngadamel rejeki tina aplikasi sistem AI pikeun usaha khususna. Naroskeun aranjeunna pikeun ngeureunkeun atanapi ngabatesan pamekaran alat AI sami sareng naroskeun aranjeunna ngeureunkeun atanapi ngabatesan kamekaran kahareupna. Sacara finansial, ieu bakal ngancem bisnis jangka panjang maranéhanana. Sacara hukum, korporasi ngagaduhan tanggung jawab fidusia pikeun terus-terusan ngawangun nilai pikeun pamangku kapentingan; hartina sagala aksi nu bakal ngawatesan tumuwuhna nilai nu bisa ngakibatkeun gugatan a. Sareng upami aya politikus anu nyobian ngabatesan panalungtikan AI, maka korporasi raksasa ieu ngan ukur mayar biaya lobi anu diperyogikeun pikeun ngarobih pikiran atanapi pikiran kolega.

Pikeun tempur, sapertos teroris sareng pejuang kabébasan di sakumna dunya parantos ngagunakeun taktik gerilya pikeun ngalawan militér anu dibiayaan langkung saé, nagara-nagara anu langkung alit bakal gaduh insentif pikeun ngagunakeun AI salaku kaunggulan taktis anu sami ngalawan nagara-nagara anu langkung ageung anu mungkin gaduh sababaraha kaunggulan militér. Kitu ogé, pikeun militér luhur, sapertos anu milik AS, Rusia sareng Cina, ngawangun ASI militér sami sareng gaduh arsenal senjata nuklir dina saku tonggong anjeun. Dina basa sejen, sadaya militér bakal neruskeun waragad AI ngan tetep relevan dina mangsa nu bakal datang.

Kumaha upami pamaréntah? Sabenerna, kalolobaan politikus ayeuna (2018) teu terang téknologi sareng teu gaduh pamahaman naon AI atanapi poténsi kahareupna-hal ieu ngajantenkeun aranjeunna gampang dimanipulasi ku kapentingan perusahaan.

Sareng dina tingkat global, pertimbangkeun kumaha héséna ngayakinkeun pamaréntah dunya pikeun nandatanganan 2015 pasatujuan Paris pikeun nungkulan parobahan iklim - sareng sakali ditandatanganan, seueur kawajiban anu henteu ngariung. Henteu ngan éta, parobihan iklim mangrupikeun masalah anu ngalaman jalma sacara fisik sacara global ngaliwatan kajadian cuaca anu beuki sering sareng parah. Ayeuna, nalika ngobrol ngeunaan satuju kana watesan dina AI, ieu mangrupikeun masalah anu umumna teu katingali sareng bieu pisan kahartos ku masarakat, janten untung meunang mésér pikeun naon waé 'Perjanjian Paris' pikeun ngawatesan AI.

Dina basa sejen, aya loba teuing kapentingan nalungtik AI pikeun tungtung sorangan pikeun ngeureunkeun sagala panalungtikan nu antukna bisa ngakibatkeun hiji ASI. 

Dupi urang kandang hiji superintelligence jieunan?

Patarosan wajar salajengna nyaéta tiasa urang kandang atanapi ngontrol ASI sakali urang pasti nyiptakeunana? 

Jawaban pondok: Deui, henteu.

Jawaban panjang: Téhnologi teu tiasa dikandung.

Pikeun hiji, ngan mertimbangkeun rébuan nepi ka jutaan pamekar wéb jeung élmuwan komputer di dunya anu terus churn kaluar software anyar atawa vérsi anyar software aya. Naha urang tiasa jujur ​​​​nyebatkeun yén unggal sékrési parangkat lunakna 100 persen bébas bug? Kutu ieu mangrupikeun anu dianggo ku peretas profésional pikeun maok inpormasi kartu kiridit jutaan atanapi rahasia rahasia bangsa-sareng ieu mangrupikeun peretas manusa. Pikeun ASI, anggap yén éta ngagaduhan insentif pikeun kabur kandang digitalna, maka prosés milarian bug sareng ngarecah parangkat lunak bakal gampang pisan.

Tapi sanaos tim panaliti AI mendakan cara pikeun ngabotak ASI, éta sanés hartosna yén 1,000 tim salajengna bakal terang ogé atanapi janten insentif pikeun ngagunakeunana.

Butuh milyaran dolar sareng meureun puluhan taun kanggo nyiptakeun ASI. Korporasi atanapi pamaréntahan anu ngainvestasi artos sareng waktos sapertos kitu bakal ngarepkeun hasil anu signifikan dina investasina. Sareng pikeun ASI nyayogikeun artos sapertos kitu-naha éta pikeun kaulinan pasar saham atanapi nyiptakeun produk milyaran dolar énggal atanapi ngarencanakeun strategi unggul pikeun ngalawan tentara anu langkung ageung-éta peryogi aksés gratis kana set data raksasa atanapi bahkan Internét. sorangan pikeun ngahasilkeun maranéhanana balik.

Sareng nalika ASI kéngingkeun aksés kana jaringan dunya, teu aya jaminan yén urang tiasa ngagentos deui kana kandangna.

Tiasa hiji superintelligence jieunan diajar jadi alus?

Ayeuna, peneliti AI henteu hariwang ngeunaan ASI janten jahat. Sakabeh jahat, AI sci-fi trope ngan manusa anthropomorphizing deui. A ASI kahareup moal alus atawa jahat - konsep manusa - ngan amoral.

Anggapan alamiah nyaéta yén dibéré sabak étika kosong ieu, panalungtik AI tiasa ngaprogram kana kode étika ASI munggaran anu saluyu sareng urang sorangan supados éta henteu ngabebaskeun Terminator ka urang atanapi ngajantenkeun urang sadayana janten batré Matrix.

Tapi asumsi ieu bakes dina asumsi sekundér yén peneliti AI ogé ahli dina etika, filsafat, jeung psikologi.

Sabenerna, lolobana mah henteu.

Numutkeun psikolog kognitif sareng panulis, Steven Pinker, kanyataan ieu hartosna yén tugas étika coding tiasa salah dina sababaraha cara anu béda.

Contona, sanajan peneliti AI pangalusna-intentioned bisa teu ngahaja kode kana ASI ieu kirang panginten kaluar kode etika nu dina skenario tangtu bisa ngabalukarkeun ASI kalakuan jiga sociopath a.

Kitu ogé, aya kamungkinan anu sami yén panalungtik AI ngaprogram kode étika anu kalebet bias bawaan panalungtik. Contona, kumaha ASI bakal kalakuanana lamun diwangun ku etika diturunkeun tina sudut pandang konservatif vs liberal, atawa tina Budha vs Kristen atawa tradisi Islam?

Jigana anjeun ningali masalah di dieu: Teu aya set universal moral manusa. Upami urang hoyong ASI urang ngalaksanakeun kode etik, ti ​​mana éta asalna? Aturan naon anu urang kalebet sareng ngaluarkeun? Saha anu mutuskeun?

Atanapi urang nyarios yén panalungtik AI ieu nyiptakeun ASI anu saluyu sareng norma sareng hukum budaya modern ayeuna. Urang teras nganggo ASI ieu pikeun ngabantosan birokrasi féderal, nagara bagian / propinsi, sareng kotamadya berpungsi langkung éfisién sareng ngalaksanakeun langkung saé norma sareng undang-undang ieu (saleresna mangrupikeun kasus panggunaan pikeun ASI). Tah, kumaha lamun budaya urang robah?

Bayangkeun hiji ASI dijieun ku Garéja Katolik dina jangkungna kakuatan na salila Abad Pertengahan Éropa (1300-1400s) kalawan tujuan pikeun mantuan garéja ngatur populasi jeung mastikeun adherence ketat kana dogma agama waktu éta. Abad-abad ka hareup, naha awéwé bakal ngarasakeun hak anu sami sareng ayeuna? Naha minoritas bakal ditangtayungan? Naha bébas ucapan bakal diwanohkeun? Naha pamisahan garéja sareng nagara bakal dilaksanakeun? Élmu modern?

Hartina, naha urang rék ngabui kahareup kana ahlak jeung adat kiwari?

Hiji pendekatan alternatif anu dibagikeun ku Colin Allen, co-panulis buku, Mesin Moral: Ngajarkeun Robot Katuhu Ti Lepat. Gantina nyoba kode aturan etika kaku, urang boga ASI diajar etika umum jeung moralitas dina ragam sarua yén manusa ngalakukeun, ngaliwatan pangalaman jeung interaksi jeung batur.

Masalahna di dieu, kumaha oge, upami panalungtik AI terang henteu ngan ukur kumaha ngajarkeun ASI norma budaya sareng etika urang ayeuna, tapi ogé kumaha adaptasi kana norma budaya anyar nalika aranjeunna muncul (hal anu disebut 'normativitas teu langsung'), teras kumaha ASI ieu megatkeun pikeun mekar pamahaman na norma budaya jeung etika jadi unpredictable.

Sareng éta tangtangan.

Di hiji sisi, panalungtik AI tiasa nyobian coding standar atanapi aturan etika anu ketat kana ASI pikeun nyobaan sareng ngontrol paripolahna, tapi résiko akibat anu teu disangka-sangka diwanohkeun tina coding anu teu kahaja, bias teu dihaja, sareng norma-norma masarakat anu hiji dinten tiasa janten tinggaleun jaman. Di sisi anu sanésna, urang tiasa nyobian ngalatih ASI pikeun diajar ngartos étika sareng moral manusa ku cara anu sami atanapi punjul tina pamahaman urang sorangan teras ngaharepkeun yén éta tiasa akurat mekarkeun pamahaman étika sareng moral nalika masarakat manusa maju. maju ngaliwatan dekade jeung abad datang.

Barina ogé, usaha naon waé pikeun nyaluyukeun tujuan ASI sareng tujuan urang sorangan nunjukkeun résiko anu ageung.

Kumaha upami aktor jahat ngahaja nyiptakeun superintelligence jieunan anu jahat?

Dibikeun kareta pamikiran anu digariskeun sajauh ieu, éta patarosan anu adil pikeun naroskeun naha mungkin pikeun grup téroris atanapi bangsa jahat nyiptakeun ASI 'jahat' pikeun tujuanana sorangan.

Ieu pisan mungkin, utamana sanggeus panalungtikan kalibet dina nyieun hiji ASI janten sadia online kumaha bae.

Tapi sakumaha anu disebatkeun sateuacana, biaya sareng kaahlian dina nyiptakeun ASI munggaran bakal ageung pisan, hartosna ASI munggaran sigana bakal diciptakeun ku organisasi anu dikawasa atanapi dipangaruhan pisan ku nagara maju, sigana AS, Cina, sareng Jepang ( Korea sareng salah sahiji nagara Uni Éropa anu unggul nyaéta shot panjang).

Sadaya nagara ieu, bari saingan, masing-masing gaduh insentif ékonomi anu kuat pikeun ngajaga tatanan dunya — ASI anu aranjeunna ciptakeun bakal ngagambarkeun kahayang éta, sanaos ngamajukeun kapentingan bangsa anu aranjeunna saluyukeun diri.

Sajaba ti éta, kecerdasan téoritis ASI sarta kakuatan sarua jeung kakuatan komputasi eta gains aksés ka, hartina ASIs ti nagara maju (anu mampuh sakumpulan miliar dollar). supercomputer) bakal boga kaunggulan gede leuwih ASI ti nagara leutik atawa grup kriminal bebas. Ogé, ASIs tumuwuh leuwih calakan, leuwih gancang kana waktu.

Janten, upami mimitina ieu, digabungkeun sareng aksés anu langkung ageung kana kakuatan komputasi atah, upami organisasi/bangsa anu bayangan nyiptakeun ASI anu bahaya, ASI ti nagara maju bakal maéhan atanapi ngaku.

(Pamikiran ieu ogé sabab sababaraha panalungtik AI yakin yén ngan ukur aya hiji ASI di pangeusina, sabab ASI anu munggaran bakal gaduh sirah sapertos kitu pikeun ngamimitian sadaya ASI anu suksés anu tiasa ningali ASI ka hareup salaku ancaman anu bakal dipaéhan. Ieu mangrupikeun alesan sanés naha nagara-nagara ngabiayaan panalungtikan anu terus-terusan dina AI, upami éta janten kompetisi 'tempat kahiji atanapi henteu nanaon'.)

Intelijen ASI moal ngagancangkeun atanapi ngabeledug sapertos anu urang pikirkeun

Urang teu bisa ngeureunkeun hiji ASI dijieun. Urang teu bisa ngadalikeun sagemblengna. Kami henteu tiasa yakin yén éta bakal salawasna saluyu sareng adat anu urang babarengan. Geez, urang mimiti disada sapertos kolot helikopter di dieu!

Tapi anu ngabédakeun umat manusa tina indungna overprotective khas anjeun nyaéta yén urang ngalahirkeun mahluk anu kecerdasanna bakal tumbuh langkung ageung saluareun milik urang. (Sareng henteu, éta henteu sami sareng nalika kolot anjeun naroskeun anjeun ngalereskeun komputerna iraha waé anjeun sumping ka bumi.) 

Dina bab saméméhna tina séri intelijen buatan masa depan ieu, urang ngajalajah naha panaliti AI nyangka yén intelijen ASI bakal tumbuh di luar kontrol. Tapi di dieu, urang bakal peupeus gelembung éta ... jenis. 

Anjeun tingali, intelijen henteu ngan ukur nyiptakeun diri tina hawa ipis, éta dikembangkeun ku pangalaman anu dibentuk ku rangsangan luar.  

Dina basa sejen, urang tiasa program AI jeung kakuatan jadi super calakan, tapi iwal urang unggah kana eta ton data atawa masihan eta aksés unrestricted kana Internet atawa malah ngan masihan eta awak robot, éta moal diajar nanaon pikeun ngahontal poténsi éta. 

Komo lamun meunang aksés ka hiji atawa leuwih tina rangsangan éta, pangaweruh atawa intelegensi ngalibatkeun leuwih ti ngan ngumpulkeun data, éta ngalibatkeun métode ilmiah-nyieun hiji observasi, ngabentuk pertanyaan, hiji hipotesa, ngalakonan percobaan, nyieun kacindekan, bilas. sarta ngulang salawasna. Utamana lamun percobaan ieu ngalibetkeun hal fisik atawa observasi manusa, hasil unggal percobaan bisa nyandak minggu, bulan, atawa taun pikeun ngumpulkeun. Ieu malah teu merhatikeun duit jeung sumber daya atah diperlukeun pikeun ngalakonan percobaan ieu, utamana lamun maranéhna ngalibatkeun ngawangun teleskop anyar atawa pabrik. 

Dina basa sejen, enya, hiji ASI bakal diajar gancang, tapi kecerdasan teu magic. Anjeun teu tiasa ngan ukur ngaitkeun ASI ka superkomputer sareng ngarepkeun éta sadayana terang. Bakal aya kendala fisik pikeun akuisisi data ASI, hartosna bakal aya kendala fisik pikeun laju anu tumbuh langkung cerdas. Konstrain ieu bakal masihan umat manusa waktos anu diperyogikeun pikeun nempatkeun kadali anu dipikabutuh dina ASI ieu upami éta mimiti bertindak kaluar tina tujuan manusa.

Hiji superintelligence jieunan ngan bahaya lamun meunang kaluar ka dunya nyata

Poin anu sanés anu leungit dina debat bahaya ASI ieu nyaéta yén ASI ieu moal aya ogé. Aranjeunna bakal ngagaduhan bentuk fisik. Sareng naon waé anu gaduh wujud fisik tiasa dikontrol.

Anu mimiti, pikeun ASI ngahontal poténsi intelijenna, éta henteu tiasa disimpen di jero awak robot tunggal, sabab awak ieu bakal ngabatesan poténsi pertumbuhan komputasi na. (Ieu sababna awak robot bakal langkung pas pikeun AGIs atanapi kecerdasan umum jieunan dipedar dina bab dua tina séri ieu, sapertos Data ti Star Trek atanapi R2D2 ti Star Wars. Makhluk anu pinter sareng sanggup, tapi sapertos manusa, aranjeunna bakal gaduh wates kumaha pinterna aranjeunna tiasa.)

Ieu ngandung harti yén ASI kahareup ieu paling dipikaresep bakal aya di jero superkomputer atawa jaringan tina superkomputers nu sorangan housed di kompléx wangunan badag. Lamun hiji ASI ngahurungkeun keuneung, manusa bisa boh mareuman kakuatan ka wangunan ieu, motong aranjeunna tina Internet, atawa ngan ngabom wangunan ieu outright. Mahal, tapi tiasa dilakukeun.

Tapi teras anjeun tiasa naroskeun, naha ASI ieu henteu tiasa ngadukeun diri atanapi nyadangkeun diri? Leres, tapi ukuran file atah ASIs ieu sigana ageung pisan sahingga hiji-hijina server anu tiasa ngadamelana milik perusahaan ageung atanapi pamaréntahan, hartosna aranjeunna moal sesah diburu.

Naha superintelligence jieunan tiasa nyababkeun perang nuklir atanapi wabah anyar?

Dina titik ieu, anjeun tiasa mikir deui kana sadaya acara sci-fi kiamat sareng pilem anu anjeun tonton nalika dewasa sareng mikir yén ASI ieu henteu cicing di jero superkomputerna, aranjeunna nyababkeun karusakan nyata di dunya nyata!

Muhun, hayu urang megatkeun ieu handap.

Contona, kumaha lamun hiji ASI ngancam dunya nyata ku transforming kana hal kawas Skynet ASI ti franchise pilem, The Terminator. Dina hal ieu, ASI kedah cicingeun nipu sakabéh kompléks industri militér ti hiji bangsa maju kana ngawangun pabrik raksasa nu bisa churn kaluar jutaan robot drone killer pikeun ngalakukeun Panawaran jahat na. Dina dinten ieu sareng umur, éta manteng.

Kamungkinan sanésna kalebet ASI anu ngancam manusa ku perang nuklir sareng bioweapons.

Contona, hiji ASI kumaha bae ngamanipulasi operator atawa hacks kana kode peluncuran maréntahkeun arsenal nuklir hiji bangsa maju sarta ngajalankeun serangan munggaran nu bakal maksa nagara lawan pikeun mogok deui kalawan pilihan nuklir sorangan (deui, rehashing backstory Terminator). Atawa lamun hiji ASI hacks kana lab farmasi, tampers prosés manufaktur, sarta racun jutaan Pél médis atawa unleashes wabah deadly sababaraha virus super.

Anu mimiti, pilihan nuklir kaluar tina piring. Superkomputer modéren jeung nu bakal datang sok diwangun deukeut puseur (kota) pangaruh di nagara mana wae, nyaéta targét pangheulana diserang nalika perang. Sanaos superkomputer jaman ayeuna nyusut kana ukuran desktop, ASI ieu masih bakal gaduh ayana fisik, hartosna aya sareng tumbuh, aranjeunna peryogi aksés anu teu kaganggu kana data, daya komputasi, listrik, sareng bahan baku sanésna, sadayana bakal parah. impaired sanggeus perang nuklir global. (Sacara adil, upami ASI diciptakeun tanpa 'insting survival', maka ancaman nuklir ieu bahaya pisan.)

Ieu hartosna-deui, asumsina ASI diprogram pikeun ngajagaan dirina sorangan-yén éta bakal aktip dianggo pikeun nyegah kajadian nuklir bencana. Sapertos doktrin musnah saling diasuransikeun (MAD), tapi dilarapkeun ka AI.

Sareng dina kasus pil anu diracun, panginten sababaraha ratus urang bakal maot, tapi sistem kaamanan farmasi modern bakal ningali botol pil anu kacemar dicandak tina rak dina sababaraha dinten. Samentara éta, ukuran kontrol wabah modern anu cukup canggih tur jadi hadé unggal taun ngaliwatan; wabah utama panungtungan, nu 2014 Afrika Kulon wabah Ebola, lumangsung teu leuwih ti sababaraha bulan di kalolobaan nagara jeung ngan dina tilu taun di nagara paling maju.

Janten, upami éta untung, ASI tiasa ngaleungitkeun sababaraha juta kalayan wabah virus, tapi dina dunya salapan milyar ku 2045, éta bakal kawilang teu penting sareng henteu pantes résiko dihapus.

Kalayan kecap sanésna, sareng unggal taun, dunya ngembangkeun langkung seueur panyalindungan ngalawan kamungkinan ancaman anu terus-terusan. ASI tiasa nyababkeun karusakan anu ageung, tapi éta moal mungkas umat manusa upami urang aktip ngabantosanana.

Ngabela ngalawan superintelligence jieunan rogue

Ku titik ieu, kami geus kajawab sauntuyan misconceptions sarta exaggerations ngeunaan ASIs, sarta acan, kritik bakal tetep. Untungna, ku kalolobaan perkiraan, urang gaduh sababaraha dekade sateuacan ASI munggaran asup ka dunya urang. Sareng tina jumlah pikiran hébat anu ayeuna nuju ngerjakeun tantangan ieu, kamungkinan urang bakal diajar kumaha carana ngabela diri ngalawan ASI anu jahat ku kituna urang tiasa nyandak kauntungan tina sagala solusi anu tiasa diciptakeun ASI anu ramah pikeun urang.

Tina sudut pandang Quantumrun, ngabéla tina skenario ASI anu paling parah bakal ngalibatkeun aligning kapentingan urang sareng ASI.

MAD pikeun AI: Pikeun ngabéla tina skénario anu paling parah, bangsa-bangsa kedah (1) nyiptakeun 'insting survival' étika kana ASI militér masing-masing; (2) nginpokeun ka ASI militér masing-masing yén aranjeunna henteu nyalira di pangeusina, sareng (3) milarian sadaya superkomputer sareng pusat server anu tiasa ngadukung ASI sapanjang basisir anu gampang dicapai tina serangan balistik ti bangsa musuh. Ieu disada sacara strategis gélo, tapi sarupa jeung doktrin Mutually Assured Destruction anu nyegah perang nuklir sadaya-kaluar antara AS jeung Soviét, ku positioning ASIs di lokasi geografi rentan, urang bisa mantuan mastikeun aranjeunna aktip nyegah perang global bahaya, teu ukur keur ngajaga katengtreman global tapi ogé sorangan.

Legislate hak AI: A intelek unggul inevitably bakal rebel ngalawan master inferior, ieu naha urang kudu mindahkeun jauh ti nungtut hubungan master-abdi jeung ASIs ieu hal leuwih kawas partnership saling mangpaat. Léngkah positip pikeun tujuan ieu nyaéta pikeun masihan status kapribadian hukum ASI ka hareup anu ngaku aranjeunna salaku mahluk hirup anu cerdas sareng sadaya hak anu aya dina éta.

sakola ASI: Naon waé topik atanapi profési bakal saderhana pikeun diajar ASI, tapi mata pelajaran anu paling penting anu urang hoyong ASI dikuasai nyaéta étika sareng moral. Panaliti AI kedah kolaborasi sareng psikolog pikeun ngarancang sistem virtual pikeun ngalatih ASI pikeun mikawanoh étika sareng moral anu positif pikeun dirina sorangan tanpa peryogi coding keras naon waé paréntah atanapi aturan.

Tujuan anu tiasa dihontal: Tungtung sagala kabencian. Mungkas sagala kasangsaraan. Ieu mangrupikeun conto tujuan anu ambigu anu teu jelas sareng henteu aya solusi anu jelas. Éta ogé tujuan anu bahaya pikeun ditugaskeun ka ASI sabab éta tiasa milih napsirkeun sareng ngabéréskeunana ku cara anu bahaya pikeun kasalametan manusa. Gantina, urang kudu napelkeun ASI misi bermakna nu jelas didefinisikeun, laun dieksekusi jeung achievable dibikeun kecerdasan hareup teoritis na. Nyieun misi well-diartikeun moal gampang, tapi lamun ditulis thoughtfully, aranjeunna bakal museurkeun hiji ASI ka tujuan nu teu ngan ngajaga umat manusa aman, tapi ngaronjatkeun kaayaan manusa pikeun sakabéh.

Énkripsi kuantum: Anggo ANI canggih (kecerdasan sempit jieunan Sistem anu dijelaskeun dina bab hiji) pikeun ngawangun sistem kaamanan digital anu teu aya kasalahan/bug-gratis di sabudeureun infrastruktur sareng senjata kritis urang, teras ngajagi aranjeunna di balik enkripsi kuantum anu teu tiasa diretas ku serangan brute force. 

Pél bunuh diri ANI. Nyiptakeun sistem ANI canggih anu ngan ukur tujuan pikeun milarian sareng ngancurkeun ASI anu jahat. Program tujuan tunggal ieu bakal janten "tombol pareum" anu, upami suksés, bakal ngahindarkeun pamaréntahan atanapi militér kedah nganonaktipkeun atanapi ngabeledugkeun gedong anu ngagaduhan ASI.

Tangtosna, ieu ngan ukur pendapat urang. Infographic di handap ieu dijieun ku Alexey Turchin, visualizing a kertas panalungtikan ku Kaj Sotala jeung Romawi V. Yampolskiy, éta diringkeskeun daptar strategi ayeuna peneliti AI tempo lamun datang ka defending ngalawan rogue ASI.

Alesan nyata urang sieun hiji superintelligence jieunan

Ngaliwatan kahirupan, seueur urang ngagem topéng anu nyumput atanapi nahan dorongan, kapercayaan sareng kasieun urang anu langkung jero pikeun sosialisasi sareng kolaborasi anu langkung saé dina sagala rupa bunderan sosial sareng padamelan anu ngatur dinten urang. Tapi dina titik-titik anu tangtu dina kahirupan urang sadayana, naha samentawis atanapi permanén, aya kajadian anu ngamungkinkeun urang pikeun megatkeun ranté urang sareng nyopot topéng urang.

Kanggo sababaraha, gaya intervening ieu tiasa saderhana sapertos kéngingkeun tinggi atanapi nginum seueur teuing. Pikeun anu sanés, éta tiasa asalna tina kakuatan anu dimeunangkeun ku promosi di tempat kerja atanapi nabrak ngadadak dina status sosial anjeun berkat sababaraha prestasi. Sarta pikeun sababaraha untung, éta bisa datangna tina nyetak boatload duit lotre. Jeung enya, duit, kakuatan, jeung ubar mindeng bisa lumangsung babarengan. 

Intina nyaéta, pikeun hadé atanapi goréng, saha waé urang dina inti bakal digedékeun nalika larangan hirup lebur.

yen Éta naon superintelligence jieunan ngagambarkeun spésiés manusa-kamampuhan pikeun ngalembereh jauh watesan kecerdasan koléktif urang pikeun nalukkeun sagala tantangan tingkat spésiés dibere saméméh urang.

Janten patarosan anu saleresna nyaéta: Sakali ASI anu munggaran ngabébaskeun urang tina watesan urang, saha urang bakal nembongkeun diri urang sorangan?

Upami urang salaku spésiés tindakan pikeun kamajuan empati, kabébasan, kaadilan, sareng karaharjaan koléktif, maka tujuan anu urang nyetél ASI urang bakal ngagambarkeun atribut anu positif.

Upami urang salaku spésiés bertindak tina kasieun, teu percanten, akumulasi kakuatan sareng sumber daya, maka ASI anu urang ciptakeun bakal poék sapertos anu aya dina carita horor sci-fi anu paling parah.

Dina ahir poé, urang salaku masarakat kedah janten jalma anu langkung saé upami urang ngaharepkeun nyiptakeun AI anu langkung saé.

Masa depan séri Kecerdasan Buatan

Kecerdasan Buatan mangrupikeun listrik énjing: Masa Depan Artificial Intelligence séri P1

Kumaha Kecerdasan Umum Artifisial anu munggaran bakal ngarobih masarakat: Masa Depan séri Kecerdasan Buatan P2

Kumaha urang bakal nyiptakeun Artificial Superintelligenc munggaran: Masa Depan of Artificial Intelligence séri P3

Bakal hiji Superintelligence jieunan ngabasmi umat manusa: Masa Depan of Artificial Intelligence séri P4

Naha manusa bakal hirup tengtrem dina masa depan anu didominasi ku intelijen buatan?: Masa depan séri Kecerdasan Buatan P6