Quantumrun

IMAGE CREDIT: Quantumrun

Yuav ua li cas tib neeg yuav tiv thaiv tawm tsam Artificial Superintelligence: Yav Tom Ntej ntawm Artificial Intelligence P5

David Tal, Publisher, Futurist
@DavidTalWrites
LinkedIn

Tues, 09/15/2020 - 13:15

Lub xyoo yog 65,000 BCE, thiab raws li ib tug Thylacoleo, koj thiab koj tus zoo yog cov neeg yos hav zoov zoo ntawm Australia thaum ub. Koj tau taug kev hauv thaj av ywj pheej thiab nyob hauv kev sib npaug nrog cov phooj ywg cov tsiaj nyeg thiab cov tsiaj uas nyob hauv thaj av nrog koj. Lub caij tau hloov pauv, tab sis koj cov xwm txheej hauv lub nceeg vaj tsiaj tseem tsis muaj kev cuam tshuam ntev npaum li koj thiab koj cov poj koob yawm txwv nco ntsoov. Ces muaj ib hnub, cov tuaj tshiab tuaj.

Cov lus xaiv tau hais tias lawv tuaj txog ntawm phab ntsa dej loj, tab sis cov tsiaj no zoo li nyiam nyob hauv av. Koj yuav tsum pom cov tsiaj no rau koj tus kheej.

Nws siv ob peb hnub, tab sis thaum kawg koj tau ua nws mus rau ntug dej hiav txwv. Qhov hluav taws kub saum ntuj tau teeb tsa, lub sijhawm zoo los soj ntsuam cov tsiaj no, tej zaum txawm sim noj ib qho los saib seb lawv saj li cas.

Koj pom ib.

Nws taug kev ntawm ob txhais ceg thiab tsis muaj pluab. Nws saib tsis muaj zog. Tsis txaus ntseeg. Tsis tsim nyog qhov ntshai nws tau ua rau hauv lub nceeg vaj.

Koj pib ua tib zoo ua koj txoj kev mus kom ze thaum hmo ntuj caum qhov kaj. Koj los ze zog lawm. Ces koj khov. Lub suab nrov nrov tawm thiab tom qab ntawd plaub ntawm lawv tshwm sim tawm hauv hav zoov tom qab nws. Muaj pes tsawg leeg?

Tus tsiaj ua raws li lwm tus rau hauv treeline, thiab koj ua raws. Thiab qhov ntau koj ua, ntau lub suab txawv txawv koj hnov kom txog thaum koj pom ntau dua ntawm cov creatures. Koj ua raws li ntawm qhov deb thaum lawv tawm hauv hav zoov mus rau hauv kev tshem tawm ntawm ntug dej. Muaj ntau ntawm lawv. Tab sis qhov tseem ceeb tshaj, lawv txhua tus nyob ntsiag to zaum ntawm qhov hluav taws kub.

Koj twb pom cov hluav taws kub ua ntej lawm. Thaum lub caij kub, cov hluav taws saum ntuj tej zaum yuav tuaj xyuas thaj av thiab hlawv tag nrho hav zoov. Cov tsiaj no, ntawm qhov tod tes, lawv tau qee yam tswj nws. Yam tsiaj twg thiaj muaj hwj chim li ntawd?

Koj saib mus rau qhov deb. Ntau dua tuaj hla lub phab ntsa dej loj.

Koj ua ib kauj ruam rov qab.

Cov tsiaj no tsis zoo li lwm tus hauv lub nceeg vaj. Lawv yog ib yam tshiab kiag li.

Koj txiav txim siab tawm mus ceeb toom koj cov kwv tij. Yog tias lawv cov lej loj dhau lawm, leej twg paub tias yuav muaj dab tsi tshwm sim.

***

Nws tau ntseeg tias Thylacoleo tau ploj mus rau lub sijhawm luv luv tom qab tib neeg tuaj txog, nrog rau feem ntau ntawm lwm cov megafauna ntawm Australian sab av loj. Tsis muaj lwm yam apex mammalian predators coj nws qhov chaw-uas yog tshwj tsis yog tias koj suav tib neeg hauv pawg ntawd.

Kev ua si tawm qhov kev tsis txaus ntseeg no yog qhov tseem ceeb ntawm tshooj no: Yuav ua rau yav tom ntej kev txawj ntse txawj ntse (ASI) tig peb txhua tus mus rau hauv cov roj teeb thiab tom qab ntawd ntsaws peb rau hauv Matrix lossis tib neeg yuav txiav txim siab txog txoj hauv kev kom tsis txhob dhau los ua neeg raug tsim txom rau sci-fi, AI doomsday zaj dab neeg?

Tam sim no nyob rau hauv peb series ntawm Yav Tom Ntej ntawm Kev Txawj Ntse, peb tau tshawb xyuas txhua yam ntawm AI, suav nrog qhov muaj peev xwm zoo ntawm ib daim ntawv tshwj xeeb ntawm AI, ASI: tus neeg tsim khoom uas nws qhov kev txawj ntse yav tom ntej yuav ua rau peb zoo li ntsaum hauv kev sib piv.

Tab sis leej twg hais tias ib tug ua tus ntse no yuav txais kev txiav txim los ntawm tib neeg mus ib txhis. Peb yuav ua li cas yog tej yam mus rau sab qab teb? Peb yuav tiv thaiv tus neeg phem ASI li cas?

Nyob rau hauv tshooj no, peb yuav txiav los ntawm kev dag ntxias-tsawg kawg raws li nws cuam tshuam txog 'tib neeg kev ploj tuag theem' kev phom sij - thiab tsom mus rau qhov muaj tseeb ntawm kev tiv thaiv tus kheej muaj rau tsoomfwv ntiaj teb.

Peb puas tuaj yeem tso tseg tag nrho cov kev tshawb fawb ntxiv rau hauv kev txawj ntse ntse?

Muab qhov muaj peev xwm txaus ntshai uas ASI tuaj yeem ua rau tib neeg, thawj cov lus nug pom tseeb los nug yog: Peb puas tuaj yeem tso tseg tag nrho cov kev tshawb fawb ntxiv rau AI? Los yog tsawg kawg txwv ib qho kev tshawb fawb uas yuav ua rau peb txaus ntshai nyob ze rau kev tsim ASI?

Lus teb luv luv: Tsis yog.

Lo lus teb ntev: Cia peb saib cov neeg sib txawv koom nrog ntawm no.

Nyob rau theem kev tshawb fawb, muaj ntau tus kws tshawb fawb AI niaj hnub no los ntawm ntau lub lag luam pib, tuam txhab, thiab tsev kawm qib siab thoob ntiaj teb. Yog tias ib lub tuam txhab lossis lub tebchaws txiav txim siab txwv lawv txoj kev tshawb fawb AI, lawv tsuas yog txuas ntxiv mus rau lwm qhov.

Lub caij no, lub ntiaj teb cov tuam txhab muaj txiaj ntsig tshaj plaws tau ua rau lawv cov hmoov zoo tawm ntawm lawv daim ntawv thov AI rau lawv cov lag luam tshwj xeeb. Hais kom lawv tso tseg lossis txwv lawv txoj kev loj hlob ntawm AI cov cuab yeej zoo li hais kom lawv txwv lossis txwv lawv txoj kev loj hlob yav tom ntej. Nyiaj txiag, qhov no yuav hem lawv cov lag luam mus ntev. Raws li txoj cai, cov tuam txhab lag luam muaj lub luag haujlwm ruaj khov los tsim kom muaj txiaj ntsig rau lawv cov neeg muaj feem; qhov ntawd txhais tau tias txhua qhov kev ua uas yuav txwv qhov kev loj hlob ntawm tus nqi ntawd tuaj yeem ua rau muaj kev foob. Thiab yog tias ib tus nom tswv sim txwv AI kev tshawb fawb, ces cov tuam txhab loj no tsuas yog them cov nqi tos txais tsim nyog los hloov lawv lub siab lossis lub siab ntawm lawv cov npoj yaig.

Rau kev sib ntaus sib tua, ib yam li cov neeg phem thiab cov neeg tawm tsam kev ywj pheej thoob ntiaj teb tau siv guerrilla tactics los tawm tsam cov tub rog uas tau txais txiaj ntsig zoo dua, cov teb chaws me me yuav muaj kev txhawb siab los siv AI raws li qhov zoo sib xws ntawm kev sib tw tiv thaiv cov teb chaws loj uas yuav muaj ntau cov tub rog zoo. Ib yam li ntawd, rau cov tub rog saum toj kawg nkaus, xws li cov koom nrog hauv Asmeskas, Russia thiab Tuam Tshoj, tsim cov tub rog ASI yog sib npaug nrog rau kev muaj riam phom nuclear hauv koj lub hnab ris rov qab. Hauv lwm lo lus, txhua tus tub rog yuav txuas ntxiv nyiaj txiag AI kom nyob twj ywm rau yav tom ntej.

Yuav ua li cas txog tsoom fwv? Qhov tseeb tiag, feem ntau cov nom tswv hnub no (2018) yog thev naus laus zis tsis paub nyeem ntawv thiab tsis muaj kev nkag siab me ntsis ntawm AI yog dab tsi lossis nws lub peev xwm yav tom ntej - qhov no ua rau lawv yooj yim rau kev tswj hwm los ntawm cov neeg nyiam.

Thiab nyob rau theem thoob ntiaj teb, xav txog seb nws nyuaj npaum li cas los ua kom tsoomfwv ntiaj teb kos npe rau xyoo 2015 Paris Daim ntawv cog lus los daws qhov kev hloov pauv huab cua - thiab ib zaug kos npe, ntau lub luag haujlwm tseem tsis tau khi. Tsis tas li ntawd xwb, kev hloov pauv huab cua yog ib qho teeb meem uas tib neeg tau ntsib thoob ntiaj teb los ntawm cov xwm txheej huab cua ntau zuj zus thiab hnyav. Tam sim no, thaum tham txog kev pom zoo rau kev txwv rau AI, qhov no yog ib qho teeb meem uas pom tsis tau ntau thiab tsis tshua nkag siab rau cov pej xeem, yog li muaj hmoo tau txais kev yuav-hauv txhua yam 'Paris Daim Ntawv Pom Zoo' rau kev txwv AI.

Hauv lwm lo lus, muaj ntau txoj kev txaus siab tshawb fawb AI rau lawv tus kheej kawg kom tsis txhob muaj kev tshawb fawb uas tuaj yeem ua rau ASI thaum kawg.

Peb puas tuaj yeem kaw qhov kev txawj ntse txawj ntse?

Cov lus nug tsim nyog tom ntej yog peb puas tuaj yeem kaw lossis tswj ASI ib zaug peb tsim ib qho inevitably?

Cov lus teb luv luv: Ib zaug ntxiv, tsis yog.

Cov lus teb ntev: Tshuab tsis tuaj yeem ntim tau.

Rau ib qho, tsuas yog xav txog ntau txhiab mus rau lab tus neeg tsim lub vev xaib thiab cov kws tshawb fawb hauv lub ntiaj teb uas niaj hnub churn tawm software tshiab lossis tshiab versions ntawm software uas twb muaj lawm. Peb puas tuaj yeem hais ncaj ncees tias txhua qhov ntawm lawv cov software tso tawm yog 100 feem pua kab-dawb? Cov kab no yog cov kws tshaj lij hackers siv los nyiag daim npav rho nyiaj cov ntaub ntawv ntawm ntau lab lossis cov kev zais zais ntawm cov tebchaws - thiab cov no yog tib neeg hackers. Rau ASI, xav tias nws muaj kev txhawb siab kom khiav tawm nws lub tawb digital, tom qab ntawd cov txheej txheem ntawm kev nrhiav cov kab thiab rhuav tshem los ntawm software yuav yog qhov yooj yim.

Tab sis txawm tias pab pawg tshawb fawb AI tau txiav txim siab txog txoj hauv kev rau lub thawv ASI, qhov ntawd tsis tau txhais hais tias tom ntej no 1,000 pab pawg yuav txiav txim siab zoo los yog txhawb kom siv nws.

Nws yuav siv nyiaj ntau lab daus las thiab tej zaum txawm kaum xyoo los tsim ASI. Cov tuam txhab lag luam lossis tsoomfwv uas nqis peev nyiaj zoo li no thiab lub sijhawm yuav cia siab tias yuav tau txais txiaj ntsig zoo ntawm lawv cov peev. Thiab rau ASI los muab qhov zoo li ntawd rov qab los-txawm hais tias yog kev ua si hauv khw muag khoom lossis tsim cov khoom lag luam tshiab billions los yog npaj lub tswv yim yeej los tawm tsam cov tub rog loj dua-nws yuav xav tau kev nkag mus dawb rau cov ntaub ntawv loj heev lossis txawm hauv Is Taws Nem. nws tus kheej los tsim cov khoom xa rov qab.

Thiab ib zaug ASI tau txais kev nkag mus rau lub ntiaj teb cov tes hauj lwm, tsis muaj kev lees paub tias peb tuaj yeem muab nws rov qab rau hauv nws lub tawb.

Puas muaj kev txawj ntse txawj ntse kawm tau zoo?

Tam sim no, AI cov kws tshawb fawb tsis txhawj xeeb txog ASI ua phem. Qhov phem tag nrho, AI sci-fi trope tsuas yog tib neeg anthropomorphizing dua. ASI yav tom ntej yuav tsis yog qhov zoo lossis qhov phem - tib neeg lub tswv yim - tsuas yog amoral.

Qhov kev xav zoo li no yog qhov uas tau muab qhov kev coj ncaj ncees dawb huv no, AI cov kws tshawb fawb tuaj yeem ua haujlwm rau thawj ASI kev coj ncaj ncees cov cai uas ua raws li peb tus kheej kom nws tsis txhob tso tseg Terminators rau peb lossis tig peb tag nrho rau hauv Matrix roj teeb.

Tab sis qhov kev xav no ci hauv qhov kev xav thib ob uas cov kws tshawb fawb AI kuj yog cov kws tshaj lij hauv kev coj ncaj ncees, kev xav, thiab kev xav.

Qhov tseeb, feem ntau tsis yog.

Raws li tus kws paub txog kev puas siab puas ntsws thiab tus kws sau ntawv, Steven Pinker, qhov tseeb no txhais tau hais tias txoj haujlwm ntawm coding ethics tuaj yeem ua yuam kev hauv ntau txoj kev sib txawv.

Piv txwv li, txawm tias cov kws tshawb fawb AI zoo tshaj plaws tuaj yeem ua tsis tau raws li cov ASI no tsis zoo xav txog kev coj ncaj ncees uas nyob rau hauv qee qhov xwm txheej tuaj yeem ua rau ASI ua zoo li kev sociopath.

Ib yam li ntawd, muaj qhov sib npaug uas tus kws tshawb fawb AI cov kev pabcuam kev coj noj coj ua uas suav nrog tus kws tshawb fawb txog kev tsis ncaj ncees. Piv txwv li, yuav ua li cas ASI coj tus cwj pwm yog tsim los ntawm kev coj ncaj ncees los ntawm kev saib xyuas thiab kev ywj pheej, los yog los ntawm ib tug hauj sam vs ib tug ntseeg lossis Islamic kev lig kev cai?

Kuv xav tias koj pom qhov teeb meem ntawm no: Tsis muaj universal set ntawm tib neeg kev coj ncaj ncees. Yog tias peb xav kom peb ASI ua raws li kev coj ncaj ncees, nws yuav tuaj qhov twg? Cov cai dab tsi uas peb suav nrog thiab tsis suav nrog? Leej twg txiav txim siab?

Los yog cia peb hais tias cov kws tshawb fawb AI no tsim ASI uas zoo kawg nkaus ua raws li niaj hnub kev coj noj coj ua thiab kev cai lij choj. Tom qab ntawd peb ntiav ASI no los pab tsoomfwv, xeev / xeev, thiab nroog bureaucracies ua haujlwm tau zoo dua thiab ua raws li cov cai thiab kev cai lij choj no (xws li siv rooj plaub rau ASI los ntawm txoj kev). Zoo, ua li cas thaum peb kab lis kev cai hloov?

Xav txog ASI yog tsim los ntawm lub Koom Txoos Catholic ntawm qhov siab ntawm nws lub hwj chim thaum lub sij hawm Medieval Europe (1300-1400s) nrog lub hom phiaj ntawm kev pab pawg ntseeg tswj cov pej xeem thiab xyuas kom nruj ua raws li kev cai dab qhuas dogma ntawm lub sij hawm. Ntau pua xyoo tom qab, cov poj niam puas tau txais txoj cai zoo ib yam li lawv niaj hnub no? Cov haiv neeg tsawg puas yuav raug tiv thaiv? Yuav txhawb kev hais lus dawb? Puas yuav muaj kev sib cais ntawm pawg ntseeg thiab lub xeev? Kev tshawb fawb niaj hnub?

Hauv lwm lo lus, peb puas xav kaw lub neej yav tom ntej rau niaj hnub kev coj ncaj ncees thiab kev coj noj coj ua?

Lwm txoj hauv kev yog ib qho qhia los ntawm Colin Allen, tus kws sau phau ntawv, Moral Machines: Qhia Robots Txoj Cai Los Ntawm Qhov Tsis Zoo. Tsis txhob sim ua cov kev cai nruj nruj, peb muaj ASI kawm txog kev coj ncaj ncees thiab kev coj ncaj ncees tib yam li tib neeg ua, los ntawm kev paub dhau los thiab kev cuam tshuam nrog lwm tus.

Qhov teeb meem ntawm no, txawm li cas los xij, yog tias cov kws tshawb fawb AI tsis paub tsuas yog yuav qhia li cas ASI peb cov kab lis kev cai thiab kev coj ncaj ncees tam sim no, tab sis kuj yuav ua li cas hloov mus rau cov kab lis kev cai tshiab thaum lawv tshwm sim (qee yam hu ua 'indirect normativity'), ces yuav ua li cas. Qhov no ASI txiav txim siab los hloov kho nws txoj kev nkag siab ntawm kab lis kev cai thiab kev coj ncaj ncees yuav ua tsis tau.

Thiab qhov ntawd yog qhov kev sib tw.

Ntawm qhov tod tes, AI cov kws tshawb fawb tuaj yeem sim coding cov qauv kev coj ncaj ncees lossis kev cai rau hauv ASI los sim thiab tswj nws tus cwj pwm, tab sis muaj kev pheej hmoo yuav tshwm sim los ntawm kev tsis pom zoo los ntawm coding, tsis txhob xav tsis thoob, thiab kev coj noj coj ua hauv zej zog uas tej zaum yuav muaj ib hnub dhau los. Ntawm qhov tod tes, peb tuaj yeem sim cob qhia ASI kom kawm kom nkag siab txog tib neeg kev coj ncaj ncees thiab kev coj ncaj ncees raws li qhov sib npaug lossis zoo dua rau peb tus kheej kev nkag siab thiab tom qab ntawd cia siab tias nws tuaj yeem hloov kho nws txoj kev nkag siab ntawm kev ncaj ncees thiab kev coj ncaj ncees raws li tib neeg lub neej kev vam meej. nyob rau hauv lub xyoo tom ntej thiab centuries.

Txawm li cas los xij, txhua qhov kev sim ua kom haum ASI cov hom phiaj nrog peb tus kheej nthuav tawm qhov kev pheej hmoo loj heev.

Yuav ua li cas yog tias cov neeg ua phem ua phem rau lub hom phiaj tsim kev txawj ntse txawj ntse?

Muab lub tsheb ciav hlau ntawm kev xav tau piav qhia txog tam sim no, nws yog ib lo lus nug ncaj ncees los nug seb nws puas muaj peev xwm rau pab pawg neeg phem lossis lub teb chaws tsis ncaj ncees los tsim 'kev phem' ASI rau lawv tus kheej kawg.

Qhov no yog qhov ua tau heev, tshwj xeeb tshaj yog tom qab kev tshawb fawb koom nrog kev tsim ASI muaj nyob hauv online.

Tab sis raws li tau hais ua ntej lawm, cov nqi thiab cov kws tshaj lij koom nrog hauv kev tsim thawj ASI yuav loj heev, txhais tau tias thawj ASI yuav raug tsim los ntawm ib lub koom haum uas tswj hwm lossis cuam tshuam los ntawm ib lub teb chaws tsim, yuav yog US, Tuam Tshoj, thiab Nyiv ( Kaus lim qab teb thiab ib qho ntawm EU lub teb chaws yog kev txhaj tshuaj ntev).

Tag nrho cov teb chaws no, thaum cov neeg sib tw, txhua tus muaj kev txhawb zog kev lag luam los tswj lub ntiaj teb kev txiav txim siab - ASIs lawv tsim yuav cuam tshuam qhov kev xav tau, txawm tias thaum txhawb kev nyiam ntawm cov teb chaws lawv ua raws lawv tus kheej nrog.

Nyob rau sab saum toj ntawm qhov ntawd, ASI qhov kev txawj ntse theoretical thiab lub zog sib npaug ntawm lub zog suav nws tau nkag mus rau, txhais tau tias ASIs los ntawm cov teb chaws tsim kho (uas tuaj yeem them taus ib pawg ntawm billions). supercomputers) yuav muaj txiaj ntsig zoo tshaj ASIs los ntawm cov teb chaws me los yog pawg neeg ua txhaum cai ywj pheej. Tsis tas li ntawd, ASIs loj hlob ntse dua, sai dua lub sijhawm.

Yog li, muab lub taub hau no pib, ua ke nrog kev nkag mus rau kev siv hluav taws xob ntau dua, yog tias lub koom haum ntxoov ntxoo / lub teb chaws tsim kom muaj kev phom sij ASI, ASIs los ntawm cov teb chaws tsim los yuav tua nws lossis tawb nws.

(Cov kab kev xav no kuj yog vim li cas qee cov kws tshawb fawb AI ntseeg tias tsuas muaj ib qho ASI hauv ntiaj teb xwb, txij li thawj ASI yuav muaj lub taub hau pib ntawm txhua qhov ua tiav ASIs uas nws yuav pom ASIs yav tom ntej raws li kev hem kom raug tua. Qhov no tseem yog lwm qhov laj thawj vim li cas cov teb chaws tau nyiaj txuas ntxiv kev tshawb fawb hauv AI, tsuas yog thaum nws dhau los ua 'qhov chaw thawj lossis tsis muaj dab tsi' kev sib tw.)

ASI kev txawj ntse yuav tsis nrawm lossis tawg zoo li peb xav

Peb tsis tuaj yeem nres ASI los ntawm kev tsim. Peb tswj tsis tau nws kiag li. Peb tsis tuaj yeem paub tseeb tias nws yuav ib txwm ua raws li peb cov kev lis kev cai sib koom. Geez, peb tab tom pib suab zoo li cov niam txiv nyoob hoom qav taub nyob ntawm no!

Tab sis dab tsi cais tib neeg los ntawm koj tus niam txiv uas muaj kev tiv thaiv ntau dhau yog tias peb tab tom yug rau ib tus neeg uas nws txawj ntse yuav loj hlob dhau ntawm peb. (Thiab tsis yog, nws tsis zoo ib yam li thaum koj niam koj txiv hais kom koj kho lawv lub computer thaum twg koj tuaj xyuas tsev.)

Hauv tshooj dhau los ntawm lub neej yav tom ntej ntawm kev txawj ntse txawj ntse, peb tau tshawb nrhiav vim li cas AI cov kws tshawb fawb xav tias ASI qhov kev txawj ntse yuav loj hlob dhau los tswj. Tab sis ntawm no, peb yuav tawg qhov npuas ntawd ... hom.

Koj pom, kev txawj ntse tsis yog tsim nws tus kheej tawm ntawm cov huab cua nyias, nws tau tsim los ntawm kev paub uas zoo li cov stimuli sab nraud.

Hauv lwm lo lus, peb tuaj yeem tsim AI nrog rau tej zaum kom dhau los ua neeg txawj ntse, tab sis tshwj tsis yog tias peb muab tso rau hauv nws ib tuj ntawm cov ntaub ntawv lossis muab kev txwv tsis pub nkag mus rau hauv Is Taws Nem lossis txawm tias tsuas yog muab nws lub cev neeg hlau, nws yuav tsis kawm dab tsi kom ncav cuag lub peev xwm ntawd.

Thiab txawm hais tias nws tau nkag mus rau ib lossis ntau dua ntawm cov kev xav, kev paub lossis kev txawj ntse muaj ntau tshaj li kev sau cov ntaub ntawv, nws koom nrog txoj kev tshawb fawb - ua kev soj ntsuam, tsim cov lus nug, kev xav, kev sim, kev txiav txim siab, yaug. thiab rov qab mus ib txhis. Tshwj xeeb tshaj yog tias cov kev sim no cuam tshuam nrog lub cev lossis kev soj ntsuam tib neeg, cov txiaj ntsig ntawm txhua qhov kev sim yuav siv sij hawm ntau lub lis piam, hli, lossis xyoo los sau. Qhov no tsis txawm suav cov nyiaj thiab cov peev txheej nyoos uas xav tau los ua cov kev sim no, tshwj xeeb tshaj yog tias lawv koom nrog kev tsim lub tshuab tsom iav tshiab lossis lub Hoobkas.

Hauv lwm lo lus, yog, ASI yuav kawm sai, tab sis kev txawj ntse tsis yog khawv koob. Koj tsis tuaj yeem txuas ASI rau lub khoos phis tawj super uas cia siab tias nws yuav paub txhua yam. Yuav muaj kev txwv lub cev rau ASI qhov tau txais cov ntaub ntawv, txhais tau tias yuav muaj kev txwv lub cev rau qhov nrawm uas nws loj hlob ntse dua. Cov kev txwv no yuav muab sijhawm rau tib neeg lub sijhawm nws yuav tsum tau tso cov kev tswj hwm tsim nyog ntawm ASI no yog tias nws pib ua raws li tib neeg lub hom phiaj.

Kev txawj ntse txawj ntse tsuas yog txaus ntshai yog tias nws tawm mus rau hauv lub ntiaj teb tiag

Lwm lub ntsiab lus uas tau ploj hauv qhov kev sib cav txog kev phom sij ASI tag nrho yog tias cov ASIs yuav tsis muaj nyob hauv ib qho. Lawv yuav muaj daim ntawv cev nqaij daim tawv. Thiab txhua yam uas muaj daim ntawv lub cev tuaj yeem tswj tau.

Ua ntej tshaj, rau ASI kom ncav cuag nws lub peev xwm txawj ntse, nws tsis tuaj yeem nyob hauv ib lub cev neeg hlau, vim lub cev no yuav txwv nws txoj kev loj hlob ntawm kev suav. (Qhov no yog vim li cas lub cev neeg hlau yuav tsim nyog rau AGIs lossis Artificial txawj ntse tau piav qhia hauv tshooj ob ntawm no series, zoo li Cov Ntaub Ntawv los ntawm Star Trek lossis R2D2 los ntawm Star Wars. Cov neeg txawj ntse thiab muaj peev xwm, tab sis zoo li tib neeg, lawv yuav muaj kev txwv rau qhov lawv yuav ntse npaum li cas.)

Qhov no txhais tau hais tias cov ASIs yav tom ntej no yuav muaj feem ntau nyob rau hauv lub supercomputer lossis network ntawm supercomputers uas lawv tus kheej nyob hauv cov tsev loj. Yog tias ASI tig pob taws, tib neeg tuaj yeem tua lub zog rau cov tsev no, txiav lawv tawm hauv Is Taws Nem, lossis tsuas yog foob pob cov tsev tam sim no. kim, tab sis ua tau.

Tab sis tom qab ntawd koj yuav nug, ASIs tsis tuaj yeem rov ua dua lawv tus kheej lossis rov qab lawv tus kheej? Yog lawm, tab sis cov ntaub ntawv nyoos loj ntawm ASIs yuav zoo li loj heev uas tsuas yog cov servers uas tuaj yeem tswj tau lawv koom nrog cov tuam txhab loj lossis tsoomfwv, txhais tau tias lawv yuav tsis nyuaj rau kev yos hav zoov.

Kev txawj ntse txawj ntse puas tuaj yeem ua rau muaj kev tsov rog nuclear lossis kab mob plague tshiab?

Nyob rau lub sijhawm no, tej zaum koj yuav xav rov qab rau txhua qhov kev ua yeeb yaj kiab sci-fi thiab cov yeeb yaj kiab uas koj tau saib loj hlob thiab xav tias cov ASIs tsis nyob hauv lawv lub supercomputers, lawv tau ua kev puas tsuaj tiag tiag hauv ntiaj teb tiag!

Zoo, cia peb rhuav cov no.

Piv txwv li, yuav ua li cas yog ASI hem lub ntiaj teb tiag los ntawm kev hloov mus rau ib yam dab tsi zoo li Skynet ASI los ntawm cov yeeb yaj kiab franchise, The Terminator. Hauv qhov no, ASI yuav xav tau nyiag dupe tag nrho cov tub rog kev lag luam complex los ntawm ib lub teb chaws advanced mus rau hauv kev tsim loj factories uas muaj peev xwm churn tawm lab tus neeg tua neeg drone neeg hlau los ua nws qhov kev sib tw phem. Nyob rau hnub no thiab muaj hnub nyoog, uas yog ib tug stretch.

Lwm qhov muaj peev xwm suav nrog ASI hem tib neeg nrog kev ua tsov rog nuclear thiab bioweapons.

Piv txwv li, ASI ua li cas los tswj cov neeg khiav dej num lossis hacks rau hauv cov lej tso tawm uas tswj hwm lub teb chaws qib siab nuclear arsenal thiab pib tawm tsam thawj zaug uas yuav yuam cov teb chaws tawm tsam tawm tsam rov qab nrog lawv tus kheej cov kev xaiv nuclear (dua, rehashing Terminator backstory). Lossis yog tias ASI nkag mus rau hauv lub chaw kuaj tshuaj, cuam tshuam nrog cov txheej txheem tsim khoom, thiab ua rau ntau lab cov tshuaj kho mob lossis ua rau muaj kev sib kis ntawm qee tus kab mob super.

Ua ntej tshaj, qhov kev xaiv nuclear yog tawm ntawm lub phaj. Niaj hnub nimno thiab yav tom ntej supercomputers yeej ib txwm ua nyob ze cov chaw (cov nroog) ntawm lub hwj chim nyob rau hauv ib lub teb chaws muab, piv txwv li thawj lub hom phiaj yuav tsum tau tawm tsam thaum lub sij hawm ua tsov ua rog. Txawm hais tias niaj hnub no lub supercomputers poob qis rau qhov loj ntawm desktops, cov ASIs tseem yuav muaj lub cev muaj zog, uas txhais tau hais tias muaj thiab loj hlob, lawv xav tau kev nkag mus rau cov ntaub ntawv tsis cuam tshuam, suav fais fab, hluav taws xob, thiab lwm yam khoom siv raw, txhua yam yuav ua rau hnyav heev. kev puas tsuaj tom qab lub ntiaj teb no tsov rog nuclear. (Yuav kom ncaj ncees, yog tias ASI tsim tsis muaj 'kev muaj sia nyob,' ces qhov kev hem thawj nuclear no yog qhov txaus ntshai heev.)

Qhov no txhais tau tias-dua li, xav tias ASI tau tsim los tiv thaiv nws tus kheej- tias nws yuav nquag ua haujlwm kom tsis txhob muaj kev puas tsuaj nuclear. Zoo ib yam li cov lus qhuab qhia kev puas tsuaj (MAD), tab sis siv rau AI.

Thiab nyob rau hauv cov ntaub ntawv ntawm cov tshuaj lom, tej zaum ob peb puas tus neeg yuav tuag, tab sis niaj hnub kws tshuaj kev nyab xeeb systems yuav pom cov tainted ntsiav tshuaj fwj muab tshem tawm nyob rau hauv ib hnub. Lub caij no, kev ntsuas kev tiv thaiv kab mob niaj hnub no tau tsim nyog thiab tau txais txiaj ntsig zoo nrog txhua xyoo dhau los; Qhov kev sib kis loj kawg, xyoo 2014 West Africa Ebola tshwm sim, tsis ntev tshaj li ob peb lub hlis hauv ntau lub tebchaws thiab tsuas yog qis dua peb xyoos hauv cov tebchaws tsim kho tsawg kawg nkaus.

Yog li, yog tias nws muaj hmoo, ASI tuaj yeem so tawm ob peb lab nrog kev kis tus kabmob, tab sis nyob rau hauv lub ntiaj teb ntawm cuaj lab los ntawm 2045, qhov ntawd yuav yog qhov tsis tseem ceeb thiab tsis tsim nyog yuav raug tshem tawm.

Hauv lwm lo lus, nrog rau txhua xyoo dhau mus, lub ntiaj teb tab tom txhim kho kev tiv thaiv ntau dua los tiv thaiv qhov kev hem thawj uas yuav tshwm sim. ASI tuaj yeem ua rau muaj kev puas tsuaj loj heev, tab sis nws yuav tsis xaus rau tib neeg tshwj tsis yog tias peb nquag pab nws ua li ntawd.

Tiv thaiv tawm tsam tus neeg dag dag dag superintelligence

Los ntawm qhov no, peb tau hais txog ntau yam kev xav tsis raug thiab kev hais lus ntau dhau ntawm ASIs, thiab tseem, cov neeg thuam yuav nyob twj ywm. Ua tsaug, los ntawm kev kwv yees feem ntau, peb muaj ntau xyoo ua ntej thawj ASI nkag mus rau hauv peb lub ntiaj teb. Thiab muab tus naj npawb ntawm lub siab zoo tam sim no ua haujlwm ntawm qhov kev sib tw no, qhov txawv yog peb yuav kawm yuav ua li cas tiv thaiv peb tus kheej tawm tsam ASI tsis txaus ntseeg kom peb thiaj li tau txais txiaj ntsig los ntawm txhua qhov kev daws teeb meem ASI tus phooj ywg tuaj yeem tsim rau peb.

Los ntawm Quantumrun qhov kev xav, tiv thaiv qhov xwm txheej phem tshaj plaws ASI yuav koom nrog kev ua kom peb cov kev txaus siab nrog ASIs.

MAD rau AI: Txhawm rau tiv thaiv qhov xwm txheej phem tshaj plaws, cov teb chaws yuav tsum tau (1) tsim kom muaj kev ncaj ncees 'kev muaj sia nyob' rau hauv lawv cov tub rog ASIs; (2) Qhia rau lawv cov tub rog ASI tias lawv tsis nyob ib leeg hauv ntiaj teb, thiab (3) nrhiav txhua lub khoos phis tawj thiab cov chaw pabcuam uas tuaj yeem txhawb nqa ASI raws ntug dej hiav txwv hauv qhov yooj yim ncav cuag txhua qhov kev tawm tsam los ntawm cov yeeb ncuab lub tebchaws. Qhov no suab zoo li vwm, tab sis zoo ib yam li Mutually Assured Destruction cov lus qhuab qhia uas tiv thaiv tag nrho cov kev tsov rog nuclear ntawm Asmeskas thiab Soviets, los ntawm kev tso ASIs hauv thaj chaw muaj kev phom sij, peb tuaj yeem pab xyuas kom lawv nquag tiv thaiv kev tsov rog thoob ntiaj teb, tsis yog rau tiv thaiv ntiaj teb kev thaj yeeb nyab xeeb tab sis kuj lawv tus kheej.

Txoj cai AI txoj cai: Ib qho kev txawj ntse zoo tshaj yuav tawm tsam tawm tsam tus tswv qis dua, qhov no yog vim li cas peb yuav tsum tau txav deb ntawm kev thov kom muaj kev sib raug zoo ntawm tus tswv-kev sib raug zoo nrog cov ASIs mus rau ib yam dab tsi ntau dua li kev sib koom tes muaj txiaj ntsig. Ib kauj ruam zoo rau lub hom phiaj no yog muab rau yav tom ntej ASI tus neeg raug cai uas lees paub tias lawv yog cov neeg muaj sia nyob thiab txhua txoj cai uas tuaj nrog qhov ntawd.

ASI tsev kawm ntawv: Txhua lub ncauj lus lossis kev ua haujlwm yuav yooj yim rau ASI kawm, tab sis qhov tseem ceeb tshaj plaws uas peb xav kom ASI paub yog kev coj ncaj ncees thiab kev coj ncaj ncees. AI cov kws tshawb fawb yuav tsum tau koom tes nrog cov kws tshawb fawb txog kev puas siab puas ntsws los tsim cov txheej txheem virtual los qhia ASI kom paub txog kev coj ncaj ncees thiab kev coj ncaj ncees rau nws tus kheej yam tsis tas yuav tsum muaj kev sib zog ua txhua yam lus txib lossis txoj cai.

Ua tiav cov hom phiaj: Xaus txhua qhov kev ntxub ntxaug. Xaus tag nrho kev txom nyem. Cov no yog cov piv txwv ntawm cov hom phiaj tsis meej pem uas tsis muaj kev daws teeb meem. Lawv kuj yog lub hom phiaj txaus ntshai los muab rau ASI vim tias nws yuav xaiv los txhais thiab daws lawv txoj hauv kev uas txaus ntshai rau tib neeg txoj sia nyob. Hloov chaw, peb yuav tsum muab ASI lub luag haujlwm tseem ceeb uas tau hais meej meej, maj mam ua tiav thiab ua tiav tau muab nws txoj kev txawj ntse yav tom ntej. Tsim kom muaj lub luag haujlwm zoo yuav tsis yooj yim, tab sis yog tias sau tau zoo, lawv yuav tsom mus rau ASI rau lub hom phiaj uas tsis yog ua kom tib neeg muaj kev nyab xeeb, tab sis txhim kho tib neeg tus mob rau txhua tus.

Quantum encryption: Siv cov ANI siab heev (kev txawj ntse nqaim kab ke piav qhia nyob rau hauv tshooj ib) los tsim kev ua yuam kev / kab mob tsis muaj kev ruaj ntseg digital nyob ib puag ncig peb cov txheej txheem tseem ceeb thiab riam phom, tom qab ntawd ntxiv tiv thaiv lawv tom qab quantum encryption uas tsis tuaj yeem raug nyiag los ntawm brute force nres.

ANI tshuaj tua kab mob. Tsim lub ANI siab heev uas nws lub hom phiaj tsuas yog nrhiav thiab rhuav tshem ASI tsis ncaj ncees. Cov kev pabcuam tib lub homphiaj no yuav ua haujlwm "tawm khawm" uas, yog tias ua tiav, yuav zam tsis tau tsoomfwv lossis tub rog yuav tsum tau lov tes taw lossis tawg cov tsev uas tsev ASIs.

Tau kawg, cov no tsuas yog peb cov kev xav xwb. Cov nram qab no infographic tau tsim los ntawm Alexey Turchin: koj puas xav tau ntau tus thwjtim?, visualizing ib kev tshawb fawb ntawv los ntawm Kaj Sotala thiab Roman V. Yampolskiy, uas tau sau tseg cov npe tam sim no ntawm cov tswv yim AI cov kws tshawb fawb tau txiav txim siab thaum nws los tiv thaiv cov neeg phem ASI.

Qhov tseeb yog vim li cas peb ntshai ntawm kev txawj ntse txawj ntse

Nyob rau hauv lub neej, peb feem ntau hnav lub npog ntsej muag uas zais lossis ua rau peb txoj kev xav tob, kev ntseeg thiab kev ntshai kom muaj kev sib raug zoo thiab sib koom tes hauv ntau yam kev sib raug zoo thiab kev ua haujlwm uas tswj hwm peb hnub. Tab sis ntawm qee lub ntsiab lus hauv txhua tus neeg lub neej, tsis hais ib ntus lossis mus tas li, ib yam dab tsi tshwm sim uas tso cai rau peb rhuav peb cov saw thiab rub tawm peb lub qhov ncauj qhov ntswg.

Rau qee tus, qhov kev cuam tshuam no tuaj yeem yooj yim li tau txais siab lossis haus ntau dhau. Rau lwm tus, nws tuaj yeem los ntawm lub zog tau txais los ntawm kev nce qib ntawm kev ua haujlwm lossis kev sib tsoo tam sim ntawd hauv koj txoj kev sib raug zoo ua tsaug rau qee qhov kev ua tiav. Thiab rau ob peb tus neeg muaj hmoo, nws tuaj yeem los ntawm kev twv lub nkoj ntawm cov nyiaj rho npe. Thiab yog, nyiaj, hwj chim, thiab tshuaj feem ntau tuaj yeem tshwm sim ua ke.

Lub ntsiab lus yog, rau qhov zoo lossis qhov phem, leej twg peb nyob hauv lub hauv paus tau txais kev nthuav dav thaum cov kev txwv ntawm lub neej ploj mus.

uas yog dab tsi dag superintelligence sawv cev rau tib neeg hom - lub peev xwm los yaj tawm qhov kev txwv ntawm peb cov kev txawj ntse los kov yeej txhua hom kev sib tw ua ntej peb.

Yog li lo lus nug tiag tiag yog: Thaum thawj ASI tso peb ntawm peb cov kev txwv, peb yuav qhia peb tus kheej los ua leej twg?

Yog tias peb yog ib hom tsiaj ua rau kev nce qib ntawm kev nkag siab, kev ywj pheej, kev ncaj ncees, thiab kev noj qab haus huv sib koom ua ke, ces cov hom phiaj peb teev peb ASI rau yuav cuam tshuam cov cwj pwm zoo.

Yog tias peb ua ib hom kev ntshai, kev tsis ntseeg, kev sib sau ntawm lub zog thiab cov peev txheej, ces ASI peb tsim yuav tsaus ntuj li cov uas pom hauv peb cov dab neeg phem tshaj plaws sci-fi ntshai heev.

Thaum kawg, peb ua ib haiv neeg yuav tsum ua neeg zoo yog tias peb vam tias yuav tsim AI zoo dua.