Quantumrun

BILDA KREDITO: Quantumrun

Ĉu homoj vivos pace en estonteco regata de artefarita inteligenteco? - Estonteco de artefarita inteligenteco P6

David Tal, Eldonisto, Futuristo
@DavidTalWrites
LinkedIn

mar, 09/15/2020 - 13:10

Se temas pri la homaro, ni nur diru, ke ni ne havas la plej grandan spuron kiam temas kunvivado kun 'la alia.' Ĉu ĝi estas la genocido de la judoj en Germanio aŭ la tucioj en Ruando, la sklavigo de afrikanoj fare de okcidentaj nacioj aŭ la sudorient-aziaj kontrakligitaj sklavoj. nun laborante en Mez-Orientaj Golfaj nacioj, aŭ eĉ la nuna persekutado travivita de meksikanoj en Usono aŭ siriaj rifuĝintoj en elektitaj EU-landoj. Entute, nia instinkta timo al tiuj, kiujn ni perceptas kiel malsamaj ol ni, povas konduki nin fari agojn, kiuj aŭ kontrolas aŭ (en ekstremaj kazoj) detruas tiujn, kiujn ni timas.

Ĉu ni povas atendi ion malsaman kiam artefarita inteligenteco iĝas vere homsimila?

Ĉu ni vivos en estonteco kie ni kunekzistos kun sendependaj AI-robotaj estaĵoj, kiel vidite en la Stelmilito-sagao, aŭ ĉu ni anstataŭe persekutos kaj sklavigos AI-estaĵojn kiel prezentitaj en la Bladerunner-franĉizo? (Se vi ne vidis neniun el ĉi tiuj popkulturaj bazaĵoj, kion vi atendas?)

Ĉi tiuj estas la demandoj ĉi tiu ferma ĉapitro de la Estonteco de Artefarita Inteligenteco serio esperas respondi. Gravas ĉar se la prognozoj faritaj de ĉefaj esploristoj de AI estas ĝustaj, tiam meze de jarcento ni homoj dividos nian mondon kun abundo da diversaj AI-estaĵoj—do ni pli bone eltrovu manieron vivi kune kun ili pace.

Ĉu homoj povas iam konkuri kun artefarita inteligenteco?

Kredu aŭ ne, ni povas.

La averaĝa homo (en 2018) jam superas eĉ la plej progresinta AI. Kiel skizite en nia komenca ĉapitro, La hodiaŭaj artefaritaj mallarĝaj inteligentecoj (ANIoj) estas ege pli bonaj ol homoj ĉe la specifa taskoj por kiuj ili estis desegnitaj, sed senesperaj kiam oni petas preni taskon ekster tiu dezajno. Homoj, aliflanke, kune kun la plej multaj aliaj bestoj sur la planedo, elstaras je nia adaptebleco por atingi celojn tra larĝa gamo de medioj—a. difinon de inteligenteco rekomendita fare de komputikistoj Marcus Hutter kaj Shane Legg.

Ĉi tiu trajto de universala adaptebleco ne ŝajnas grava afero, sed ĝi postulas la kapablon taksi malhelpon al celo, plani eksperimenton por venki tiun malhelpon, fari agon por efektivigi la eksperimenton, lerni de la rezultoj, poste daŭrigi. por sekvi la celon. La tuta vivo sur la planedo instinkte efektivigas ĉi tiun adaptigan buklon milojn ĝis milionojn da fojoj ĉiutage, kaj ĝis AI povos lerni fari la samon, ili restos senvivaj laboriloj.

Sed mi scias, kion vi pensas: Ĉi tiu tuta serio pri la estonteco de artefarita inteligenteco antaŭvidas, ke donita sufiĉe da tempo, AI-entaĵoj fine fariĝos same inteligentaj kiel homoj, kaj baldaŭ post tio, multe pli inteligentaj ol homoj.

Ĉi tiu ĉapitro ne kontestas tiun eblecon.

Sed la kaptilo en kiu falas multaj komentistoj estas pensado, ke ĉar evoluado daŭris milionojn da jaroj por produkti biologiajn cerbojn, ĝi estos senespere superita post kiam AI atingos punkton kie ili povas plibonigi sian propran aparataron kaj programaron en cikloj tiel mallongaj kiel jaroj, monatoj. , eble eĉ tagoj.

Feliĉe, la evoluo havas iom da batalo en ĝi, parte dank'al lastatempaj progresoj en genetika inĝenierado.

Unue kovrita en nia serio pri la estonteco de homa evoluo, genetikuloj identigis 69 apartaj genoj tiu efika inteligenteco, sed kune ili nur influas IQ je malpli ol ok procentoj. Ĉi tio signifas, ke povus ekzisti centoj, aŭ miloj, da genoj kiuj efikas al inteligenteco, kaj ni devos ne nur malkovri ĉiujn, sed ankaŭ lerni kiel antaŭvideble manipuli ĉiujn kune antaŭ ol ni eĉ povas pripensi mistrakti feton. DNA.

Sed de la mez-2040-aj jaroj, la kampo de genaro maturiĝos ĝis punkto kie la genaro de feto povas esti ĝisfunde mapita, kaj redaktoj al ĝia DNA povas esti komputile simulitaj por precize antaŭdiri kiel ŝanĝoj al ĝia genaro influos ĝian estontan fizikan, emocian. , kaj plej grava al ĉi tiu diskuto, ĝiaj inteligentecaj atributoj.

Alivorte, meze de la jarcento, ĉirkaŭ kiam la plej multaj AI-esploristoj kredas, ke AI atingos kaj eble superos homnivelan inteligentecon, ni akiros la kapablon genetike modifi tutajn generaciojn de homaj beboj por esti signife pli inteligentaj ol la generacioj kiuj antaŭis. ilin.

Ni iras al estonteco, kie superinteligentaj homoj vivos kune kun superinteligenta AI.

Efiko de mondo plena de superinteligentaj homoj

Do, kiom saĝe ni parolas ĉi tie? Por kunteksto, la IQ-oj de Albert Einstein kaj Stephen Hawking gajnis ĉirkaŭ 160. Post kiam ni malŝlosas la sekretojn malantaŭ la genomaj markiloj, kiuj kontrolas inteligentecon, ni eble povus vidi homojn naskita kun IQ-oj superantaj 1,000.

Ĉi tio gravas ĉar mensoj kiel Einstein kaj Hawking helpis ekfunkciigi la sciencajn sukcesojn, kiuj nun tegas la bazon de nia moderna mondo. Ekzemple, nur eta frakcio de la monda loĝantaro komprenas ion ajn pri fiziko, sed signifa procento de la monda MEP dependas de ĝiaj trovoj—teknologioj kiel la inteligenta telefono, moderna telekomunika sistemo (Interreto), kaj la GPS ne povas ekzisti sen kvantuma mekaniko. .

Konsiderante ĉi tiun efikon, kiajn progresojn la homaro povus sperti, se ni naskus tutan generacion de geniuloj? Cent milionoj da Einstein?

La respondo estas neeble diveni ĉar la mondo neniam vidis tian koncentriĝon de super geniuloj.

Kiaj eĉ estos tiuj homoj?

Por gusto, nur konsideru la kazon de la plej inteligenta registrita homo, Vilhelmo James Sidis (1898-1944), kiu havis IQ de proksimume 250-a Li povis legi antaŭ aĝo du. Li parolis ok lingvojn antaŭ la aĝo de ses. Li estis akceptita en Harvard University antaŭ 11. Kaj Sidis estas nur kvarono same inteligenta ol tio, kion biologo teoriadas, homoj povas iam iĝi kun genetika redaktado.

(Flanka noto: ni nur parolas pri inteligenteco ĉi tie, ni eĉ ne tuŝas genetikan redaktadon, kiu povas igi nin fizike superhomaj. Legu pli ĉi tie.)

Fakte, estas tre eble, ke homoj kaj AI povas kunevolui kreante specon de pozitiva realigo, kie altnivela AI helpas genetikulojn regi la homan genaron por krei ĉiam pli inteligentajn homojn, homojn kiuj tiam laboros por krei ĉiam pli inteligentan AI, kaj tiel. on. Do jes, same kiel AI-esploristoj antaŭdiras, la Tero povus tre bone sperti spioneksplodon meze de la jarcento, sed surbaze de nia diskuto ĝis nun, homoj (ne nur AI) profitos de tiu revolucio.

Ciborgoj inter ni

Justa kritiko al ĉi tiu argumento pri superinteligentaj homoj estas, ke eĉ se ni regas genetikan redaktadon meze de la jarcento, necesus pliajn 20 ĝis 30 jarojn antaŭ ol ĉi tiu nova generacio de homoj maturiĝos al punkto kie ili povas kontribui signifajn progresojn al nia. socio kaj eĉ eksteren la intelektan ludkampon kune kun AI. Ĉu ĉi tiu malfruo ne donus al AI signifan antaŭon kontraŭ la homaro, se ili decidus fariĝi "malbonaj"?

Jen kial, kiel ponto inter la hodiaŭaj homoj kaj la morgaŭaj superhomoj, ekde la 2030-aj jaroj, ni vidos la komencojn de nova klaso de homo: la ciborgo, hibrido de homo kaj maŝino.

(Por esti juste, depende de kiel vi difinas ciborgojn, ili teknike jam ekzistas—specife, homoj kun prostezaj membroj kiel rezulto de militvundoj, akcidentoj aŭ genetikaj difektoj ĉe naskiĝo. Sed por resti koncentrita al la kunteksto de ĉi tiu ĉapitro, ni mi koncentriĝos pri protezaĵoj intencitaj por pliigi niajn mensojn kaj inteligentecon.)

Unue diskutita en nia Estonteco de Komputiloj serioj, esploristoj nuntempe disvolvas bioelektronikan kampon nomatan Brain-Computer Interface (BCI). Ĝi implikas uzi cerban skanantan aparaton aŭ enplantaĵon por monitori viajn cerbajn ondojn, konverti ilin en kodon, kaj poste asocii ilin kun komandoj por kontroli ĉion, kio estas prizorgita de komputilo.

Ni ankoraŭ estas en la fruaj tagoj, sed per uzado de BCI, amputitoj nun estas provante robotajn membrojn kontrolite rekte de iliaj mensoj, anstataŭe de tra sensiloj alkroĉitaj al ilia stumpo. Same, homoj kun severaj handikapoj (kiel homoj kun kvarplegio) nun estas uzante BCI por stiri iliajn motorizitajn rulseĝojn kaj manipuli robotajn brakojn. Sed helpi amputitojn kaj handikapulojn konduki pli sendependajn vivojn ne estas la amplekso de tio, kion BCI povos.

Kio en la 2030-aj jaroj aspektos kiel kasko aŭ harrubando fine cedos lokon al cerbaj enplantaĵoj (fin-2040-aj jaroj), kiuj ligos niajn mensojn al la cifereca nubo (Interreto). Eventuale, ĉi tiu cerba protezo funkcios kiel tria hemisfero por niaj mensoj—do dum niaj maldekstraj kaj dekstraj hemisferoj administras niajn kreemajn kaj logikajn kapablojn, ĉi tiu nova, nub-nutrita, cifereca hemisfero faciligos preskaŭ tujan aliron al informoj kaj plibonigos la kognan. atributoj kie homoj ofte mankas al siaj AI-ekvivalentoj, nome rapideco, ripeto kaj precizeco.

Kaj kvankam ĉi tiuj cerbaj enplantaĵoj ne nepre akcelos nian inteligentecon, ili igos nin multe pli kapablaj kaj sendependaj, same kiel niaj saĝtelefonoj hodiaŭ faras.

Estonteco plena de diversaj inteligentecoj

Ĉio ĉi tiu parolado pri AI, ciborgoj kaj superinteligentaj homoj malfermas alian punkton por konsideri: La estonteco vidos multe pli riĉan diversecon de inteligentecoj ol ni iam vidis en la homa aŭ eĉ la historio de la Tero.

Pensu pri tio, antaŭ la fino de ĉi tiu jarcento, ni parolas pri estonta mondo plena de:

Insektoj inteligentecoj
Bestaj inteligentecoj
Homaj inteligentecoj
Cibernetike plifortigitaj homaj inteligentecoj
Artefaritaj ĝeneralaj inteligentecoj (AGI)
Artefaritaj superinteligentoj (ASI)
Homaj superinteligentoj
Kibernete plibonigitaj homaj superinteligentecoj
Virtualaj homaj-AI hibridaj mensoj
Kelkajn pliajn interkategoriojn, kiujn ni instigas legantojn cerbumi kaj dividi en la komenta sekcio.

Alivorte, nia mondo jam estas hejmo de diversa gamo da specioj, ĉiu kun siaj unikaj specoj de inteligentecoj, sed la estonteco vidos eĉ pli grandan diversecon de inteligentecoj, ĉi-foje vastigante la pli altan finon de la kogna ŝtupetaro. Do same kiel la hodiaŭa generacio lernas dividi nian mondon kun la insektoj kaj bestoj kiuj kontribuas al nia ekosistemo, la estontaj generacioj devos lerni kiel komuniki kaj kunlabori kun ampleksa diverseco de inteligentecoj kiujn ni apenaŭ povas imagi hodiaŭ.

Kompreneble, la historio diras al ni, ke "kundivido" neniam estis fortika kostumo por homoj. Centoj ĝis miloj da specioj formortis pro homa ekspansio, nur centoj da malpli progresintaj civilizacioj malaperis sub la konkero de vastiĝantaj imperioj.

Tiuj ĉi tragedioj ŝuldiĝas al la homa bezono de rimedoj (manĝaĵo, akvo, krudaĵoj, ktp.) kaj parte al la timo kaj malfido tenataj inter fremdaj civilizacioj aŭ popoloj. Alivorte, la tragedioj de la pasinteco kaj de la nuntempo ŝuldiĝas al kialoj same malnovaj kiel la civilizacio mem, kaj ili nur plimalboniĝos kun la enkonduko de ĉiuj ĉi novaj klasoj de inteligentecoj.

Kultura efiko de mondo plena de diversaj inteligentecoj

Miro kaj timo estas la du emocioj, kiuj plej bone resumus la konfliktajn emociojn, kiujn homoj spertos post kiam ĉiuj ĉi tiuj novaj specoj de inteligentecoj eniros la mondon.

"Miri" pri la homa eltrovemo uzata por krei ĉiujn ĉi tiujn novajn homajn kaj AI inteligentecojn, kaj la eblecojn, kiujn ili povus krei. Kaj tiam "timo" pro la manko de kompreno kaj familiareco, kiun nunaj generacioj de homoj havos kun estontaj generacioj de ĉi tiuj "plifortigitaj" estaĵoj.

Do same kiel la mondo de bestoj estas tute preter la kompreno de la averaĝa insekto, kaj la mondo de homoj estas tute preter la kompreno de la meza besto, la mondo de AI kaj eĉ superinteligentaj homoj estos multe preter la amplekso de tio, kio hodiaŭ estas. meza homo povos kompreni.

Kaj kvankam estontaj generacioj povos komuniki kun ĉi tiuj novaj pli altaj inteligentecoj, ne estas kvazaŭ ni havos multon komunan. En la ĉapitroj enkondukantaj AGI-ojn kaj ASI-ojn, ni klarigis kial provi pensi pri AI-inteligentoj kiel homaj inteligentecoj estus eraro.

Mallonge, la instinktaj emocioj, kiuj kondukas la homan penson, estas la evolua biologia heredaĵo de pluraj jarmiloj de homaj generacioj, kiuj aktive serĉis rimedojn, sekskuniĝojn, sociajn ligojn, postvivadon, ktp. Estonta AI ne havos iun ajn el tiu evolua bagaĝo. Anstataŭe, ĉi tiuj ciferecaj inteligentecoj havos celojn, pensmanieron, valorsistemojn tute unikajn por si mem.

Same, same kiel modernaj homoj lernis subpremi aspektojn de siaj naturaj homaj deziroj danke al niaj intelektoj (ekz. ni limigas niajn seksajn partnerojn kiam engaĝitaj rilatoj; ni riskas niajn vivojn por fremduloj pro imagaj konceptoj pri honoro kaj virto, ktp.) , estontaj superhomoj povas venki ĉi tiujn praajn instinktojn tute. Se ĉi tio eblas, tiam ni vere traktas eksterterulojn, ne nur novan klason de homoj.

Ĉu estos paco inter la estontaj superrasoj kaj la ceteraj el ni?

Paco venas de fido kaj fido venas de konateco kaj komunaj celoj. Ni povas demeti konatecon de la tablo ĉar ni jam diskutis kiel ne-plibonigitaj homoj kun havas malmulte da komuna, kogne, kun ĉi tiuj superintelektoj.

En unu scenaro, ĉi tiu spioneksplodo reprezentos la pliiĝon de tute nova formo de malegaleco, unu kiu kreas inteligentec-bazitajn sociajn klasojn kiuj estos preskaŭ malebla por tiuj de la malsuperaj klasoj leviĝi. Kaj same kiel la pligrandiĝanta ekonomia interspaco inter riĉuloj kaj senhavuloj kaŭzas malkvieton hodiaŭ, la abismo inter la malsamaj klasoj/populacioj de inteligentecoj povus generi sufiĉe da timo kaj rankoro, kiuj tiam povus boliĝi en diversajn formojn de persekuto aŭ tuta milito. Por la kolegaj legantoj de komiksoj tie, ĉi tio eble memorigos vin pri la klasika persekuta fonrakonto de la franĉizo X-men de Marvel.

La alternativa scenaro estas, ke ĉi tiuj estontaj superinteligentoj nur eltrovos manierojn por emocie manipuli la pli simplajn amasojn por akcepti ilin en sian socion - aŭ almenaŭ ĝis punkto, kiu evitas ĉian perforton.

Do, kiu scenaro venkos?

Verŝajne, ni vidos ion ludi en la mezo. Ĉe la komenco de ĉi tiu inteligenteca revolucio, ni vidos la kutiman 'teknopaniko,' tiu teknologia juro kaj politika specialisto, Adam Thierer, priskribas kiel sekvante la kutiman socian padronon:

Generaciaj diferencoj, kiuj kondukas al timo pri la nova, precipe tiuj, kiuj interrompas sociajn morojn aŭ forigas laborpostenojn (legu pri efiko de AI en nia Estonteco de Laboro serio);
"Hipernostalgio" por la bonaj malnovaj tempoj, kiuj, fakte, neniam estis tiom bonaj;
La instigo por raportistoj kaj ekspertoj timi pri nova teknologio kaj tendencoj kontraŭ klakoj, vidoj kaj reklam-vendoj;
Specialaj interesoj kubutas unu la alian por registara mono aŭ ago depende de kiel ilia grupo estas trafita de ĉi tiu nova teknologio;
Elitismaj sintenoj de akademiaj kaj kulturkritikistoj timantaj pri novaj teknologioj kiujn la amaspubliko adoptas;
Homoj projekciantaj la moralajn kaj kulturajn debatojn de hieraŭ kaj hodiaŭ sur la novajn teknologiojn de la morgaŭo.

Sed kiel ĉiu nova antaŭeniĝo, homoj alkutimiĝos. Pli grave, dum du specioj eble ne pensas egale, paco povas esti trovita per reciproke komunaj interesoj aŭ celoj.

Ekzemple, ĉi tiuj novaj AI povas krei novajn teknologiojn kaj sistemojn por plibonigi niajn vivojn. Kaj kontraŭe, financado kaj registara subteno daŭre antaŭenigos la interesojn de AI entute, precipe danke al la aktiva konkurado inter ĉinaj kaj usonaj AI-programoj.

Same, kiam temas pri kreado de superhomoj, religiaj frakcioj en multaj landoj rezistos la tendencon genetike mistrakti siajn bebojn. Tamen, praktikeco kaj nacia intereso iom post iom rompos ĉi tiun baron. Por la unuaj, gepatroj estos tentaj uzi genetikan redaktan teknologion por certigi, ke iliaj infanoj naskiĝas sen malsanoj kaj sen difektoj, sed tiu komenca celo estas glitiga deklivo al pli enpenetra genetika plibonigo. Same, se Ĉinio komencos genetike plifortigi tutajn generaciojn de sia loĝantaro, Usono havos strategian imperacion sekvi eblemon aŭ riski malfruiĝi konstante du jardekojn poste — kaj ankaŭ la resto de la mondo.

Tiel intense kiel ĉi tiu tuta ĉapitro legas, ni devas memori, ke ĉi tio ĉio estos laŭgrada procezo. Ĝi faros nian mondon tre malsama kaj tre stranga. Sed ni kutimiĝos al ĝi, kaj ĝi fariĝos nia estonteco.