Kif il-bnedmin se jiddefendu kontra Superintelliġenza Artifiċjali: Futur tal-intelliġenza artifiċjali P5

Is-sena hija 65,000 Q.K., u bħala a Thylacoleo, int u t-tip tiegħek kienu l-kaċċaturi l-kbar tal-Awstralja tal-qedem. Int iddur fl-art liberament u għext f'ekwilibriju mal-predaturi sħabi u l-priża li okkupaw l-art maġenbek. L-istaġuni ġabu bidla, iżda l-istatus tiegħek fir-renju ta 'l-annimali baqa' mhux ikkontestat sakemm int u l-antenati tiegħek stajtu tiftakru. Imbagħad jum wieħed, dehru ġodda.

Rumor qal li waslu mill-ħajt tal-ilma ġgant, iżda dawn il-kreaturi dehru aktar komdi jgħixu fuq l-art. Kellek tara dawn il-kreaturi għalik innifsek.

Ħadu ftit jiem, imma fl-aħħar għamiltu sal-kosta. In-nar fis-sema kien qed jaqbad, żmien perfett biex tispija fuq dawn il-kreaturi, forsi anke tipprova tiekol waħda biex tara kif daqu.

You spot wieħed.

Kien jimxi fuq żewġ saqajn u ma kellux pil. Deher dgħajjef. Mhux impressjonanti. Bilkemm jiswa l-biża’ li kienet qed tikkawża fost is-saltna.

Tibda tagħmel l-approċċ tiegħek bir-reqqa hekk kif il-lejl iwarrab id-dawl. Qed tersaq eqreb. Imbagħad inti tiffriża. Ħsejjes qawwija jduru u mbagħad jidhru erbgħa oħra mill-foresta warajha. Kemm hemm?

Il-kreatura ssegwi lill-oħrajn fil-linja tas-siġar, u int issegwi. U aktar ma tagħmel, aktar ħsejjes strambi tisma’ sakemm tinnota aktar minn dawn il-ħlejjaq. Int issegwi mill-bogħod hekk kif joħorġu mill-foresta fi clearing max-xatt. Hemm ħafna minnhom. Iżda aktar importanti, huma kollha bilqiegħda bil-kalma madwar nar.

Inti rajt dawn in-nirien qabel. Fl-istaġun sħun, in-nar fis-sema ġieli jżur l-art u jaħarqu foresti sħaħ. Dawn il-kreaturi, min-naħa l-oħra, kienu b'xi mod jikkontrollawha. X’tip taʼ ħlejjaq jistgħu jippossjedu tali setgħa?

Inti tħares lejn id-distanza. Aktar qed jiġu minn fuq il-ħajt tal-ilma ġgant.

Inti tieħu pass lura.

Dawn il-kreaturi mhumiex bħall-oħrajn fis-saltna. Huma xi ħaġa kompletament ġdida.

Inti tiddeċiedi li titlaq u twissi lill-qraba tiegħek. Jekk in-numri tagħhom jikbru wisq, min jaf x'jista' jiġri.

***

Huwa maħsub li t-Thylacoleo spiċċat żmien relattivament qasir wara l-wasla tal-bnedmin, flimkien mal-maġġoranza tal-megafauna l-oħra fil-kontinent Awstraljan. L-ebda predatur ieħor tal-mammiferi ma ħadu postu—jiġifieri sakemm ma tgħoddx il-bnedmin f'dik il-kategorija.

Il-logħob ta' din l-allegorija huwa l-fokus ta' dan il-kapitolu tas-serje: Superintelliġenza artifiċjali futura (ASI) se tbiddel lilna lkoll f'batteriji u mbagħad idaħħalna fil-Matrix jew il-bnedmin se jsibu mod kif jevitaw li jsiru vittma ta' sci-fi? AI plot doomsday?

S'issa fis-serje tagħna fuq il- Futur tal-Intelliġenza Artifiċjali, esplorajna kull tip ta 'AI, inkluż il-potenzjal pożittiv ta' forma partikolari ta 'AI, l-ASI: esser artifiċjali li l-intelliġenza futura tiegħu se tagħmilna nħarsu qishom nemel meta mqabbla.

Imma min jgħid li bniedem daqshekk intelliġenti jaċċetta li jieħu ordnijiet mingħand il-bnedmin għal dejjem. X'se nagħmlu jekk l-affarijiet imorru fin-nofsinhar? Kif se niddefendu kontra ASI diżonest?

F'dan il-kapitlu, aħna ser naqtgħu mill-hype fittizju—għall-inqas kif tirrelata mal-perikli tal-'livell ta 'estinzjoni tal-bniedem'—u niffukaw fuq l-għażliet realistiċi ta' awto-difiża disponibbli għall-gvernijiet dinjin.

Nistgħu nwaqqfu r-riċerka ulterjuri kollha f'superintelliġenza artifiċjali?

Minħabba r-riskji potenzjali li ASI jista' joħloq għall-umanità, l-ewwel mistoqsija ovvja li trid tistaqsi hija: Ma nistgħux inwaqqfu r-riċerka ulterjuri kollha dwar l-AI? Jew għall-inqas tipprojbixxi kwalunkwe riċerka li tista 'twassalna perikolużament qrib il-ħolqien ta' ASI?

Risposta qasira: Le.

Tweġiba twila: Ejja nħarsu lejn l-atturi differenti involuti hawn.

Fil-livell tar-riċerka, illum hemm wisq riċerkaturi tal-IA minn wisq startups, kumpaniji u universitajiet madwar id-dinja. Jekk kumpanija jew pajjiż wieħed jiddeċiedi li jillimita l-isforzi tar-riċerka tal-AI tagħhom, huma sempliċement ikomplu x'imkien ieħor.

Sadanittant, l-aktar kumpaniji siewja tal-pjaneta qed jagħmlu l-fortuni tagħhom bl-applikazzjoni tagħhom tas-sistemi AI għan-negozji speċifiċi tagħhom. It-talba tagħhom biex iwaqqfu jew jillimitaw l-iżvilupp tagħhom tal-għodod tal-IA huwa simili li titlobhom iwaqqfu jew jillimitaw it-tkabbir futur tagħhom. Finanzjarjament, dan jhedded in-negozju fit-tul tagħhom. Legalment, il-korporazzjonijiet għandhom responsabbiltà fiduċjarja li kontinwament jibnu valur għall-partijiet interessati tagħhom; dan ifisser li kwalunkwe azzjoni li tillimita t-tkabbir ta’ dak il-valur tista’ twassal għal kawża. U jekk xi politiku jipprova jillimita r-riċerka tal-AI, allura dawn il-korporazzjonijiet ġganti jħallsu biss il-miżati ta 'lobbying meħtieġa biex jibdlu fehmhom jew l-imħuħ tal-kollegi tagħhom.

Għall-ġlieda, bħat-terroristi u l-ġellieda tal-libertà madwar id-dinja użaw tattiċi tal-gwerillieri biex jiġġieldu kontra militari ffinanzjati aħjar, nazzjonijiet iżgħar se jkollhom inċentiv biex jużaw l-AI bħala vantaġġ tattiku simili kontra nazzjonijiet akbar li jista 'jkollhom numru ta' vantaġġi militari. Bl-istess mod, għall-aqwa militari, bħal dawk li jappartjenu għall-Istati Uniti, ir-Russja u ċ-Ċina, il-bini ta 'ASI militari huwa daqs li jkollok armament ta' armi nukleari fil-but ta 'wara. Fi kliem ieħor, il-militar kollha se jkomplu jiffinanzjaw l-AI biss biex jibqgħu rilevanti fil-futur.

Kif dwar il-gvernijiet? Fil-verità, il-biċċa l-kbira tal-politiċi f'dawn il-jiem (2018) huma teknoloġikament illitterati u ftit li xejn jifhmu x'inhi l-AI jew il-potenzjal futur tagħha—dan jagħmilha faċli biex jiġu mmanipulati mill-interessi korporattivi.

U fuq livell globali, ikkunsidra kemm kien diffiċli li tikkonvinċi lill-gvernijiet dinjin biex jiffirmaw l-2015 Ftehim Paris biex tindirizza t-tibdil fil-klima—u ladarba ffirmati, ħafna mill-obbligi lanqas biss kienu vinkolanti. Mhux hekk biss, it-tibdil fil-klima huwa kwistjoni li n-nies qed jesperjenzaw fiżikament globalment permezz ta’ avvenimenti tat-temp dejjem aktar frekwenti u severi. Issa, meta nitkellmu dwar il-qbil għal-limiti fuq l-AI, din hija kwistjoni li hija fil-biċċa l-kbira inviżibbli u bilkemm tinftiehem mill-pubbliku, għalhekk Awguri li tikseb buy-in għal kwalunkwe tip ta ''Ftehim ta' Pariġi' biex tillimita l-AI.

Fi kliem ieħor, hemm wisq interessi li jirriċerkaw l-AI għall-iskopijiet tagħhom stess biex iwaqqfu kwalunkwe riċerka li eventwalment tista 'twassal għal ASI. 

Nistgħu ngħaġġlu superintelliġenza artifiċjali?

Il-mistoqsija raġonevoli li jmiss hija nistgħu ngħaġġlu jew nikkontrollaw ASI ladarba inevitabbilment noħolqu waħda? 

Tweġiba qasira: Għal darb'oħra, le.

Tweġiba twila: It-teknoloġija ma tistax tinżamm.

Għal waħda, ikkunsidra biss l-eluf sa miljuni ta 'żviluppaturi tal-web u xjentisti tal-kompjuter fid-dinja li kontinwament joħorġu softwer ġdid jew verżjonijiet ġodda ta' softwer eżistenti. Nistgħu onestament ngħidu li kull wieħed mir-rilaxxi tas-softwer tagħhom huwa 100 fil-mija mingħajr bug? Dawn il-bugs huma dak li jużaw il-hackers professjonali biex jisirqu l-informazzjoni tal-karta ta’ kreditu ta’ miljuni jew is-sigrieti klassifikati tan-nazzjonijiet—u dawn huma hackers umani. Għal ASI, jekk wieħed jassumi li kellu inċentiv biex jaħrab mill-gaġġa diġitali tiegħu, allura l-proċess ta 'sejba ta' bugs u tkissir ta 'softwer ikun faċli.

Imma anki jekk tim ta 'riċerka tal-AI sab mod biex jikkaxxa ASI, dan ma jfissirx li l-1,000 tim li jmiss se jifhemha wkoll jew ikunu inċentivati ​​biex jużawha.

Se tieħu biljuni ta 'dollari u forsi anke għexieren ta' snin biex tinħoloq ASI. Il-korporazzjonijiet jew il-gvernijiet li jinvestu dan it-tip ta 'flus u ħin se jistennew qligħ sinifikanti fuq l-investiment tagħhom. U biex ASI jipprovdi dak it-tip ta’ qligħ—sew jekk dan ikun biex jilgħab l-istokk tas-suq jew jivvinta prodott ġdid ta’ biljun dollaru jew jippjana strateġija rebbieħa biex jiġġieled armata akbar—se jkun jeħtieġ aċċess ħieles għal sett ta’ data ġgant jew saħansitra l-Internet. innifsu biex jipproduċi dawk il-prospetti.

U ladarba ASI jikseb aċċess għan-netwerks tad-dinja, m'hemm l-ebda garanziji li nistgħu nibdewha lura fil-gaġġa tagħha.

Jista 'superintelliġenza artifiċjali titgħallem tkun tajba?

Bħalissa, ir-riċerkaturi tal-AI mhumiex inkwetati li ASI isir ħażen. Il-ħażen kollu, it-trope tax-xjenza AI huwa biss bnedmin antropomorfizzanti mill-ġdid. ASI futur la se jkun tajjeb u lanqas ħażin—kunċetti umani—sempliċement amorali.

Is-suppożizzjoni naturali allura hija li minħabba din il-lavanja etika vojta, ir-riċerkaturi tal-AI jistgħu jipprogrammaw fl-ewwel kodiċi etiċi ASI li huma konformi ma 'tagħna sabiex ma jispiċċawx iħallu Terminators fuqna jew jibdluna lkoll f'batteriji Matrix.

Iżda din is-suppożizzjoni tikkonsisti f'suppożizzjoni sekondarja li r-riċerkaturi tal-AI huma wkoll esperti fl-etika, il-filosofija u l-psikoloġija.

Fil-verità, ħafna mhumiex.

Skont il-psikologu u l-awtur konjittiv, Steven Pinker, din ir-realtà tfisser li l-kompitu tal-kodifikazzjoni tal-etika jista 'jmur ħażin f'varjetà ta' modi differenti.

Pereżempju, anke r-riċerkaturi tal-AI bl-aħjar intenzjoni jistgħu involontarjament jikkodifikaw f'dawn il-kodiċijiet etiċi tal-ASI li ma tantx huma maħsuba li f'ċerti xenarji jistgħu jikkawżaw lill-ASI jaġixxi bħala soċjopath.

Bl-istess mod, hemm probabbiltà ugwali li riċerkatur tal-AI jipprogramma kodiċijiet etiċi li jinkludu l-preġudizzji innati tar-riċerkatur. Pereżempju, kif iġib ruħu ASI jekk tinbena b'etika derivata minn perspettiva konservattiva vs liberali, jew minn tradizzjoni Buddista vs Kristjana jew Iżlamika?

Naħseb li tara l-kwistjoni hawn: M'hemm l-ebda sett universali ta 'morali umani. Jekk irridu li l-ASI tagħna jaġixxi b'kodiċi etiku, minn fejn se jiġi? Liema regoli ninkludu u neskludu? Min jiddeċiedi?

Jew ejja ngħidu li dawn ir-riċerkaturi tal-AI joħolqu ASI li huwa perfettament konformi man-normi u l-liġijiet kulturali moderni tal-lum. Imbagħad nimpjegaw din l-ASI biex ngħinu lill-burokraziji federali, statali/provinċjali u muniċipali jiffunzjonaw b'mod aktar effiċjenti u jinforzaw aħjar dawn in-normi u l-liġijiet (każ ta' użu probabbli għal ASI). Ukoll, x'jiġri meta l-kultura tagħna tinbidel?

Immaġina li ASI nħolqot mill-Knisja Kattolika fl-eqqel tas-setgħa tagħha matul l-Ewropa Medjevali (1300-1400s) bil-għan li tgħin lill-knisja tmexxi l-popolazzjoni u tiżgura aderenza stretta mad-dogma reliġjuża ta’ dak iż-żmien. Sekli wara, in-nisa kienu jgawdu l-istess drittijiet bħal illum? Il-minoranzi jkunu protetti? Il-libertà tal-kelma tiġi promossa? Is-separazzjoni tal-knisja u l-istat tkun infurzata? Xjenza moderna?

Fi kliem ieħor, irridu nagħtu ħabs lill-futur għall-morali u d-drawwiet tal-lum?

Approċċ alternattiv huwa wieħed kondiviż minn Colin Allen, ko-awtur tal-ktieb, Magni Morali: Robots Tagħlim Dritt Minn Ħażin. Minflok ma nippruvaw nikkodifikaw regoli etiċi riġidi, għandna l-ASI jitgħallmu l-etika u l-moralità komuni bl-istess mod li jagħmlu l-bnedmin, permezz tal-esperjenza u l-interazzjonijiet ma 'oħrajn.

L-inkwiet hawnhekk, madankollu, huwa jekk ir-riċerkaturi tal-AI ma jifhmux biss kif jgħallmu lil ASI n-normi kulturali u etiċi attwali tagħna, iżda wkoll kif jadattaw għal normi kulturali ġodda hekk kif jinqalgħu (xi ħaġa msejħa 'normatità indiretta'), allura kif dan l-ASI jiddeċiedi li jevolvi l-fehim tiegħu tan-normi kulturali u etiċi jsir imprevedibbli.

U dik hi l-isfida.

Min-naħa waħda, ir-riċerkaturi tal-AI jistgħu jippruvaw jikkodifikaw standards jew regoli etiċi stretti fl-ASI biex jippruvaw jikkontrollaw l-imġieba tagħha, iżda jirriskjaw li jiddaħħlu konsegwenzi mhux previsti minn kodifikazzjoni sloppy, preġudizzju mhux intenzjonat, u normi tas-soċjetà li xi darba jistgħu jsiru skaduti. Min-naħa l-oħra, nistgħu nippruvaw inħarrġu lill-ASI biex jitgħallmu jifhmu l-etika u l-morali tal-bniedem b'mod li jkun ugwali jew superjuri għall-fehim tagħna stess u mbagħad nittamaw li tkun tista' tevolvi b'mod preċiż il-fehim tagħha tal-etika u l-morali hekk kif is-soċjetà umana timxi 'l quddiem. ’l quddiem matul id-deċennji u s-sekli li ġejjin.

Jew il-mod, kwalunkwe tentattiv biex tallinja l-għanijiet ta 'ASI ma' tagħna stess jippreżenta riskju kbir.

X'jiġri jekk atturi ħżiena apposta joħolqu superintelliġenza artifiċjali ħażina?

Minħabba l-linja tal-ħsieb deskritta s'issa, hija mistoqsija ġusta li wieħed jistaqsi jekk huwiex possibbli għal grupp terroristiku jew nazzjon diżonest li joħloq ASI 'ħażin' għall-għanijiet tagħhom stess.

Dan huwa possibbli ħafna, speċjalment wara li r-riċerka involuta fil-ħolqien ta 'ASI ssir disponibbli online b'xi mod.

Iżda kif aċċennata qabel, l-ispejjeż u l-kompetenza involuti fil-ħolqien tal-ewwel ASI se jkunu enormi, li jfisser li l-ewwel ASI x'aktarx se tinħoloq minn organizzazzjoni li hija kkontrollata jew influwenzata ħafna minn nazzjon żviluppat, x'aktarx l-Istati Uniti, iċ-Ċina u l-Ġappun ( Il-Korea u wieħed mill-pajjiżi ewlenin tal-UE huma tiri mill-bogħod).

Dawn il-pajjiżi kollha, filwaqt li l-kompetituri, kull wieħed għandu inċentiv ekonomiku qawwi biex iżomm l-ordni dinjija—l-ASIs li joħolqu se jirriflettu dik ix-xewqa, anke filwaqt li jippromwovu l-interessi tan-nazzjonijiet li jallinjaw ruħhom magħhom.

Barra minn hekk, l-intelliġenza teoretika u l-qawwa ta’ ASI hija ugwali għas-saħħa tal-kompjuter li tikseb aċċess għaliha, jiġifieri l-ASIs minn nazzjonijiet żviluppati (li jistgħu jaffordjaw mazz ta’ biljun dollaru komputers) se jkollhom vantaġġ enormi fuq l-ASIs minn nazzjonijiet iżgħar jew gruppi kriminali indipendenti. Ukoll, l-ASIs jikbru aktar intelliġenti, aktar malajr maż-żmien.

Għalhekk, minħabba dan il-bidu ta 'quddiem, flimkien ma' aċċess akbar għal qawwa tal-kompjuter mhux maħduma, jekk organizzazzjoni/nazzjon delli toħloq ASI perikoluż, l-ASIs minn nazzjonijiet żviluppati jew joqtluha jew jgħaġġluha.

(Din il-linja ta' ħsieb hija wkoll għaliex xi riċerkaturi tal-AI jemmnu li qatt se jkun hemm ASI wieħed biss fuq il-pjaneta, peress li l-ewwel ASI se jkollu tali vantaġġ fuq l-ASIs suċċessivi kollha li jista 'jara l-ASI futuri bħala theddid li jinqatel. b'mod preventiv. Din hija raġuni oħra għaliex in-nazzjonijiet qed jiffinanzjaw riċerka kontinwa fl-IA, biss f'każ li ssir kompetizzjoni 'l-ewwel post jew xejn'.)

L-intelliġenza ASI mhux se taċċellera jew tisplodi kif naħsbu aħna

Ma nistgħux inwaqqfu ASI milli jinħoloq. Ma nistgħux nikkontrollawha għal kollox. Ma nistgħux inkunu ċerti li dejjem se taġixxi f'konformità mad-drawwiet kondiviżi tagħna. Geez, qed nibdew inħossu bħal ġenituri tal-ħelikopter hawn!

Imma dak li jifred l-umanità mill-ġenitur tipiku tiegħek li jipproteġi żżejjed huwa li qed inwelldu bniedem li l-intelliġenza tiegħu se tikber ħafna lil hinn minn tagħna. (U le, mhux l-istess bħal meta l-ġenituri tiegħek jitolbuk biex tirranġa l-kompjuter tagħhom kull meta tiġi d-dar għal żjara.) 

F'kapitoli preċedenti ta 'din il-futur ta' serje ta 'intelliġenza artifiċjali, esplorajna għaliex ir-riċerkaturi tal-AI jaħsbu li l-intelliġenza ta' ASI se tikber mingħajr kontroll. Imma hawn, aħna ser jinfaqgħu dik il-bużżieqa ... tip ta '. 

Tara, l-intelliġenza mhux biss toħloq lilha nnifisha mill-irqaq, hija żviluppata permezz ta 'esperjenza li hija ffurmata minn stimoli ta' barra.  

Fi kliem ieħor, nistgħu nipprogrammaw AI bl- potenzjal biex issir super intelliġenti, iżda sakemm ma ntellgħux fiha ton ta 'dejta jew nagħtuha aċċess bla restrizzjonijiet għall-Internet jew saħansitra nagħtuha korp robot, ma titgħallem xejn biex tilħaq dak il-potenzjal. 

U anki jekk jikseb aċċess għal wieħed jew aktar minn dawk l-istimoli, għarfien jew intelliġenza jinvolvi aktar minn sempliċi ġbir ta’ data, jinvolvi l-metodu xjentifiku—li tagħmel osservazzjoni, tifforma mistoqsija, ipoteżi, twettaq esperimenti, tagħmel konklużjoni, laħlaħ. u rrepeti għal dejjem. Speċjalment jekk dawn l-esperimenti jinvolvu affarijiet fiżiċi jew l-osservazzjoni tal-bnedmin, ir-riżultati ta 'kull esperiment jistgħu jieħdu ġimgħat, xhur jew snin biex jinġabru. Dan lanqas biss iqis il-flus u r-riżorsi mhux maħduma meħtieġa biex jitwettqu dawn l-esperimenti, speċjalment jekk jinvolvu l-bini ta 'teleskopju jew fabbrika ġdida. 

Fi kliem ieħor, iva, ASI jitgħallem malajr, iżda l-intelliġenza mhix maġija. Inti ma tistax sempliċement ganċ ASI għal superkompjuter u tistenna li jkun jaf kollox. Se jkun hemm restrizzjonijiet fiżiċi għall-akkwist tad-dejta mill-ASI, li jfisser li se jkun hemm restrizzjonijiet fiżiċi għall-veloċità li tikber aktar intelliġenti. Dawn ir-restrizzjonijiet se jagħtu lill-umanità l-ħin li teħtieġ biex tpoġġi l-kontrolli meħtieġa fuq din l-ASI jekk tibda taġixxi mhux konformi mal-għanijiet umani.

Superintelliġenza artifiċjali hija perikoluża biss jekk toħroġ fid-dinja reali

Punt ieħor li jintilef f'dan id-dibattitu kollu dwar il-periklu tal-ASI huwa li dawn l-ASIs mhux se jeżistu fl-ebda waħda. Se jkollhom forma fiżika. U kull ħaġa li għandha forma fiżika tista 'tiġi kkontrollata.

L-ewwel nett, biex ASI jilħaq il-potenzjal tal-intelliġenza tiegħu, ma jistax jinżamm ġewwa korp robot wieħed, peress li dan il-korp jillimita l-potenzjal tat-tkabbir tal-kompjuter tiegħu. (Din hija r-raġuni għaliex il-korpi tar-robot se jkunu aktar xierqa għall-AGIs jew intelliġenzi ġenerali artifiċjali spjegati f'kapitlu tnejn ta’ din is-serje, bħal Data minn Star Trek jew R2D2 minn Star Wars. Ħlejjaq intelliġenti u kapaċi, iżda bħall-bnedmin, se jkollhom limitu għal kemm jistgħu jiksbu intelliġenti.)

Dan ifisser li dawn l-ASI futuri x'aktarx se jeżistu ġewwa superkompjuter jew netwerk ta 'superkompjuters li huma stess jinsabu f'kumplessi kbar ta' bini. Jekk ASI jdawwar l-għarqub, il-bnedmin jistgħu jew itfi l-enerġija għal dawn il-binjiet, jaqtgħuhom mill-Internet, jew sempliċement jibbumbardjaw dawn il-binjiet għal kollox. Għali, iżda fattibbli.

Imma mbagħad tista' tistaqsi, ma jistgħux dawn l-ASIs jirreplikaw lilhom infushom jew jappoġġaw lilhom infushom? Iva, iżda d-daqs tal-fajl mhux maħdum ta 'dawn l-ASIs x'aktarx se jkun tant kbir li l-uniċi servers li jistgħu jimmaniġġjawhom jappartjenu għal korporazzjonijiet jew gvernijiet kbar, li jfisser li mhux se jkunu diffiċli biex jiġu kaċċati.

Tista’ superintelliġenza artifiċjali tqanqal gwerra nukleari jew pesta ġdida?

F'dan il-punt, tista 'tkun qed taħseb lura għall-ispettakli u l-films tax-xjenza tal-finali kollha li rajt tikber u taħseb li dawn l-ASIs ma baqgħux ġewwa s-superkompjuters tagħhom, huma għamlu ħsara reali fid-dinja reali!

Ukoll, ejja nkissru dawn.

Pereżempju, x'jiġri jekk ASI thedded id-dinja reali billi tittrasforma f'xi ħaġa bħal Skynet ASI mill-franchise tal-films, The Terminator. F'dan il-każ, l-ASI jkollha bżonn segretament inganna kumpless industrijali militari kollu minn nazzjon avvanzat biex jibni fabbriki ġganti li jistgħu jwaqqgħu miljuni ta 'robots drone qattiel biex jagħmlu l-offerta ħażina tiegħu. F'dan il-jum u l-età, dik hija medda.

Possibbiltajiet oħra jinkludu ASI li jhedded lill-bnedmin bi gwerra nukleari u armi bijoloġiċi.

Per eżempju, ASI b'xi mod jimmanipula l-operaturi jew hacks fil-kodiċijiet ta 'tnedija kmandant armament nukleari ta' nazzjon avvanzat u tniedi l-ewwel strajk li se jġiegħel lill-pajjiżi opposti jolqtu lura bl-għażliet nukleari tagħhom stess (għal darb'oħra, rehashing l-istorja ta 'wara Terminator). Jew jekk ASI jidħol f'laboratorju farmaċewtiku, ibagħbas il-proċess tal-manifattura, u jvvelena miljuni ta 'pilloli mediċi jew joħroġ tifqigħa fatali ta' xi super virus.

L-ewwelnett, l-għażla nukleari hija barra mill-pjanċa. Is-superkompjuters moderni u futuri dejjem jinbnew ħdejn ċentri (bliet) ta' influwenza fi ħdan kwalunkwe pajjiż partikolari, jiġifieri l-ewwel miri li jiġu attakkati waqt xi gwerra partikolari. Anke jekk is-superkompjuters tal-lum jiċkienu għad-daqs tad-desktops, dawn l-ASIs xorta jkollhom preżenza fiżika, dan ifisser li jeżistu u jikbru, jeħtieġu aċċess mhux interrott għad-dejta, qawwa tal-kompjuters, elettriku, u materja prima oħra, li kollha jkunu serjament. indebolita wara gwerra nukleari globali. (Biex inkun ġust, jekk ASI jinħoloq mingħajr 'istint ta' sopravivenza,' allura din it-theddida nukleari hija periklu reali ħafna.)

Dan ifisser - għal darb'oħra, jekk wieħed jassumi li l-ASI huwa pprogrammat biex jipproteġi lilu nnifsu - li se jaħdem b'mod attiv biex jevita kwalunkwe inċident nukleari katastrofiku. Tip ta 'bħal id-duttrina tal-qerda reċiprokament assigurata (MAD), iżda applikata għall-AI.

U fil-każ ta 'pilloli avvelenati, forsi ftit mijiet ta' nies se jmutu, iżda sistemi moderni ta 'sikurezza farmaċewtika se jaraw il-fliexken tal-pilloli mċappsa jitneħħew mill-ixkafef fi żmien jiem. Sadanittant, il-miżuri moderni għall-kontroll tat-tifqigħa huma pjuttost sofistikati u qed jitjiebu kull sena li tgħaddi; l-aħħar tifqigħa kbira, it-tifqigħa tal-Ebola tal-Afrika tal-Punent tal-2014, damet mhux aktar minn ftit xhur fil-biċċa l-kbira tal-pajjiżi u ftit inqas minn tliet snin fil-pajjiżi l-inqas żviluppati.

Allura, jekk ikun xortik tajba, ASI jista 'jħassar ftit miljuni bi tifqigħa virali, iżda f'dinja ta' disa 'biljuni sal-2045, dan ikun relattivament insinifikanti u ma jiswax ir-riskju li jitħassar għalih.

Fi kliem ieħor, ma’ kull sena li tgħaddi, id-dinja qed tiżviluppa dejjem aktar salvagwardji kontra firxa dejjem tikber ta’ theddid possibbli. ASI jista 'jagħmel ammont sinifikanti ta' ħsara, iżda mhux se jtemm l-umanità sakemm ma ngħinuha b'mod attiv biex tagħmel dan.

Niddefendu kontra superintelliġenza artifiċjali diżonesti

Sa dan il-punt, indirizzajna firxa ta 'kunċetti żbaljati u esaġerazzjonijiet dwar l-ASIs, u madankollu, il-kritiċi se jibqgħu. B'xorti tajba, bil-biċċa l-kbira tal-istimi, għandna għexieren ta 'snin qabel ma l-ewwel ASI jidħol fid-dinja tagħna. U minħabba n-numru ta' imħuħ kbar li bħalissa qed jaħdmu fuq din l-isfida, hemm ċans li nitgħallmu kif niddefendu lilna nfusna kontra ASI diżonesti sabiex inkunu nistgħu nibbenefikaw mis-soluzzjonijiet kollha li ASI amikevoli jista' joħloq għalina.

Mill-perspettiva ta' Quantumrun, id-difiża kontra l-agħar xenarju tal-ASI se tinvolvi l-allinjament tal-interessi tagħna mal-ASIs.

MAD għall-AI: Biex jiddefendu kontra l-agħar xenarji, in-nazzjonijiet jeħtieġ li (1) joħolqu 'istint ta' sopravivenza' etiku fl-ASI militari rispettivi tagħhom; (2) jinfurmaw lill-ASI militari rispettivi tagħhom li mhumiex waħedhom fuq il-pjaneta, u (3) jillokalizza s-superkompjuters u ċ-ċentri tas-server kollha li jistgħu jappoġġjaw ASI tul il-kosti li jistgħu jintlaħqu faċilment minn kwalunkwe attakk ballistiku minn nazzjon ghadu. Dan jinstema' miġnun strateġikament, iżda simili għad-duttrina tal-Qerda Reċiprokament Aċċertata li ppreveniet gwerra nukleari sħiħa bejn l-Istati Uniti u s-Sovjetiċi, billi pożizzjonaw ASIs f'postijiet ġeografikament vulnerabbli, nistgħu ngħinu biex niżguraw li jipprevjenu b'mod attiv gwerer globali perikolużi, mhux biss biex jissalvagwardjaw il-paċi globali iżda wkoll huma stess.

Tilleġiżla d-drittijiet tal-IA: Intellett superjuri inevitabbilment jirribella kontra kaptan inferjuri, huwa għalhekk li rridu nimxu 'l bogħod milli nitolbu relazzjoni kaptan-qaddej ma' dawn l-ASI għal xi ħaġa aktar bħal sħubija ta 'benefiċċju reċiproku. Pass pożittiv lejn dan l-għan huwa li jingħata status ta' persuna ġuridika tal-ASI fil-ġejjieni li jirrikonoxxihom bħala ħlejjaq ħajjin intelliġenti u d-drittijiet kollha li jiġu ma' dan.

Skola ASI: Kwalunkwe suġġett jew professjoni tkun sempliċi biex titgħallem ASI, iżda l-aktar suġġetti importanti li rridu li l-ASI tikkontrolla huma l-etika u l-moralità. Ir-riċerkaturi tal-AI jeħtieġ li jikkollaboraw mal-psikologi biex ifasslu sistema virtwali biex iħarreġ ASI biex jagħraf l-etika pożittiva u l-moralità għaliha nnifisha mingħajr il-ħtieġa ta 'kodifikazzjoni iebes ta' kwalunkwe tip ta 'kmandament jew regola.

Għanijiet li jistgħu jintlaħqu: Tispiċċa l-mibegħda kollha. Ittemm it-tbatija kollha. Dawn huma eżempji ta’ għanijiet orribbli ambigwi mingħajr soluzzjoni ċara. Huma wkoll miri perikolużi li jiġu assenjati lil ASI peress li jista' jagħżel li jinterpretahom u ssolvihom b'modi li huma perikolużi għas-sopravivenza tal-bniedem. Minflok, għandna bżonn nassenjaw missjonijiet sinifikanti ASI li huma definiti b'mod ċar, eżegwiti gradwalment u li jistgħu jintlaħqu minħabba l-intellett futur teoretiku tiegħu. Il-ħolqien ta' missjonijiet definiti sew mhux se jkun faċli, iżda jekk jinkiteb bil-ħsieb, se jiffokaw ASI lejn għan li mhux biss iżomm l-umanità sigura, iżda jtejjeb il-kundizzjoni umana għal kulħadd.

Encryption kwantiku: Uża ANI avvanzat (intelliġenza dejqa artifiċjali sistema deskritta f’kapitolu wieħed) biex nibnu sistemi ta’ sigurtà diġitali mingħajr żbalji/bug madwar l-infrastruttura kritika u l-armi tagħna, imbagħad nipproteġuhom aktar wara encryption quantum li ma tistax tiġi hackjata minn attakk ta’ forza bruta. 

Pillola suwiċidju ANI. Oħloq sistema ANI avvanzata li l-uniku għan tagħha huwa li tfittex u teqred ASI diżonesti. Dawn il-programmi għal skop wieħed se jservu bħala "buttuna mitfija" li, jekk tirnexxi, tevita li l-gvernijiet jew il-militar ikollhom jiskonnettjaw jew jisplodu bini li fih l-ASIs.

Naturalment, dawn huma biss l-opinjonijiet tagħna. L-infografija li ġejja ġiet maħluqa minn Alexey Turchin, viżwalizzazzjoni a karta ta 'riċerka minn Kaj Sotala u Roman V. Yampolskiy, li ġabret fil-qosor il-lista attwali ta 'strateġiji li r-riċerkaturi tal-AI qed jikkunsidraw meta jiġu biex jiddefendu kontra l-ASI diżonesti.

Ir-raġuni vera aħna qed nibżgħu minn superintelliġenza artifiċjali

Matul il-ħajja, ħafna minna nilbsu maskra li taħbi jew tirreprimi l-impulsi, it-twemmin u l-biżgħat aktar profondi tagħna biex nissoċjalizzaw u nikkollaboraw aħjar fi ħdan id-diversi ċrieki soċjali u tax-xogħol li jirregolaw jiemna. Imma f’ċerti punti fil-ħajja ta’ kulħadd, kemm jekk temporanjament kif ukoll b’mod permanenti, tiġri xi ħaġa li tippermettilna nkissru l-ktajjen tagħna u naqilgħu l-maskri.

Għal xi wħud, din il-forza li tintervjeni tista 'tkun sempliċi daqs li titla' għoli jew tixrob wieħed wisq. Għal oħrajn, jista 'jiġi mill-qawwa miksuba permezz ta' promozzjoni fuq ix-xogħol jew ħotob f'daqqa fl-istatus soċjali tiegħek grazzi għal xi kisba. U għal ftit xxurtjati, jista 'jiġi mill-punteġġ ta' dgħajjes ta 'flus tal-lotterija. U iva, il-flus, il-poter, u d-drogi spiss jistgħu jseħħu flimkien. 

Il-punt hu, għat-tajjeb jew għall-ħażin, min aħna fil-qalba jiġi amplifikat meta r-restrizzjonijiet tal-ħajja jdubu.

Li huwa dak li jirrappreżenta s-superintelliġenza artifiċjali għall-ispeċi tal-bniedem—il-kapaċità li jdubu l-limitazzjonijiet tal-intelliġenza kollettiva tagħna biex nirbħu kwalunkwe sfida fil-livell tal-ispeċi ppreżentata quddiemna.

Allura l-mistoqsija vera hija: Ladarba l-ewwel ASI jeħlisna mil-limitazzjonijiet tagħna, min se niżvelaw lilna nfusna bħala?

Jekk aħna bħala speċi naġixxu lejn l-avvanz tal-empatija, il-libertà, il-ġustizzja, u l-benessri kollettiv, allura l-għanijiet li waqqafna l-ASI tagħna lejhom jirriflettu dawk l-attributi pożittivi.

Jekk aħna bħala speċi naġixxu minħabba biża’, nuqqas ta’ fiduċja, akkumulazzjoni ta’ poter u riżorsi, allura l-ASI li noħolqu se jkun skur daqs dawk misjuba fl-agħar stejjer ta’ orrur tax-xjenza-fizzjoni tagħna.

Fl-aħħar mill-aħħar, aħna bħala soċjetà jeħtieġ li nsiru nies aħjar jekk nittamaw li noħolqu AI aħjar.

Serje Futur ta 'Intelliġenza Artifiċjali

L-Intelliġenza Artifiċjali hija l-elettriku ta' għada: Il-Futur tas-serje ta' Intelliġenza Artifiċjali P1

Kif l-ewwel Intelliġenza Ġenerali Artifiċjali se tbiddel is-soċjetà: Future of Artificial Intelligence serje P2

Kif ser noħolqu l-ewwel serje Artificial Superintelligenc: Future of Artificial Intelligence P3

Superintelliġenza Artifiċjali se teqred l-umanità: Futur tas-serje ta 'Intelliġenza Artifiċjali P4

Il-bnedmin se jgħixu fil-paċi fi futur iddominat minn intelliġenza artifiċjali?: Future of Artificial Intelligence serje P6