Quantumrun

ATTĒLA KREDĪTS: Quantumrun

Kā mēs izveidosim pirmo mākslīgo superinteliģenci: mākslīgā intelekta nākotne P3

Deivids Tals, izdevējs, futūrists
@DavidTalWrites
LinkedIn

Otrdien, 09 - 15:2020

Otrajā pasaules karā nacistu spēki plosījās cauri lielai daļai Eiropas. Viņiem bija uzlaboti ieroči, efektīva kara laika rūpniecība, fanātiski vadīti kājnieki, bet galvenokārt viņiem bija mašīna ar nosaukumu Enigma. Šī ierīce ļāva nacistu spēkiem droši sadarboties lielos attālumos, sūtot viens otram Morzes kodētus ziņojumus pa standarta sakaru līnijām; tā bija šifrēšanas mašīna, kas bija neieņemama cilvēku kodu lauzējiem.

Par laimi, sabiedrotie atrada risinājumu. Viņiem vairs nebija vajadzīgs cilvēka prāts, lai salauztu Enigmu. Tā vietā, izmantojot nelaiķa Alana Tjūringa izgudrojumu, sabiedrotie izveidoja revolucionāri jaunu rīku, ko sauca par Britu bumba, elektromehāniska ierīce, kas beidzot atšifrēja nacistu slepeno kodu un galu galā palīdzēja viņiem uzvarēt karā.

Šī bumba lika pamatu tam, kas kļuva par mūsdienu datoru.

Bombe izstrādes projekta laikā kopā ar Tjūringu strādāja britu matemātiķis un kriptologs IJ Guds. Jau pašā spēles beigās viņš redzēja, ka šī jaunā ierīce kādu dienu varētu radīt. Iekšā 1965 papīrs, viņš uzrakstīja:

“Ļaujiet īpaši inteliģentu mašīnu definēt kā mašīnu, kas spēj daudz pārspēt jebkura cilvēka intelektuālās darbības, lai arī cik gudrs tas būtu. Tā kā mašīnu projektēšana ir viena no šīm intelektuālajām aktivitātēm, īpaši inteliģenta mašīna varētu izstrādāt vēl labākas mašīnas; tad neapšaubāmi notiktu "inteliģences sprādziens", un cilvēka saprāts tiktu atstāts tālu aiz muguras... Tādējādi pirmā ultrainteliģentā mašīna ir pēdējais izgudrojums, kas cilvēkam jebkad ir jāizgatavo, ja vien mašīna ir pietiekami paklausīga, lai pastāstītu mums, kā lai to kontrolētu."

Pirmā mākslīgā superinteliģenta izveide

Līdz šim mūsu Future of Artificial Intelligence sērijā esam definējuši trīs plašas mākslīgā intelekta (AI) kategorijas. mākslīgais šaurais intelekts (ANI) uz mākslīgais vispārējais intelekts (AGI), taču šajā sērijas nodaļā mēs koncentrēsimies uz pēdējo kategoriju — tai, kas AI pētnieku vidū izraisa satraukumu vai panikas lēkmes, — mākslīgajam superintelektam (ASI).

Lai aplauztu galvu par to, kas ir ASI, jums būs jāatgriežas pie pēdējās nodaļas, kurā mēs izklāstījām, kā AI pētnieki uzskata, ka viņi radīs pirmo AGI. Būtībā tas prasīs lielu datu padeves labāku algoritmu kombināciju (to, kas specializējas pašpilnveidošanā un cilvēkveidīgās mācīšanās spējās), kas ir izvietoti arvien jaudīgākā skaitļošanas aparatūrā.

Šajā nodaļā mēs arī izklāstījām, kā AGI prāts (kad tas iegūs šīs pašpilnveidošanās un mācīšanās spējas, kuras mēs, cilvēki, uzskatām par pašsaprotamām) galu galā pārspēs cilvēka prātu, pateicoties izcilam domāšanas ātrumam, uzlabotai atmiņai, nenogurstošai darbībai un tūlītēja jaunināšana.

Bet šeit ir svarīgi atzīmēt, ka AGI pilnveidosies tikai līdz aparatūras un datu ierobežojumiem, kuriem tam ir piekļuve; šis ierobežojums var būt liels vai mazs atkarībā no robota korpusa, ko mēs tam piešķiram, vai datoru mēroga, kuriem mēs tam ļaujam piekļūt.

Tikmēr atšķirība starp AGI un ASI ir tāda, ka pēdējais teorētiski nekad nepastāvēs fiziskā formā. Tas pilnībā darbosies superdatorā vai superdatoru tīklā. Atkarībā no tā veidotāju mērķiem tas var arī iegūt pilnīgu piekļuvi visiem internetā glabātajiem datiem, kā arī jebkurai ierīcei vai cilvēkam, kas ievada datus internetā un internetā. Tas nozīmē, ka nebūs praktiski ierobežojumu tam, cik daudz šī ASI var iemācīties un cik daudz tas var sevi pilnveidot.

Un tas ir berzēt.

Izpratne par izlūkošanas sprādzienu

Šis pašpilnveidošanās process, ko AI galu galā iegūs, kļūstot par AGI (process, ko AI kopiena sauc par rekursīvu sevis pilnveidošanu), potenciāli var izraisīt pozitīvu atgriezenisko saiti, kas izskatās šādi:

Tiek izveidots jauns AGI, kuram tiek piešķirta piekļuve robota ķermenim vai lielai datu kopai, un pēc tam tiek dots vienkāršs uzdevums sevi izglītot, uzlabot savu intelektu. Sākumā šim AGI būs tāds zīdaiņa IQ, kurš cīnās, lai aptvertu jaunas koncepcijas. Laika gaitā tas iemācās pietiekami daudz, lai sasniegtu vidusmēra pieauguša cilvēka IQ, taču ar to tas neapstājas. Izmantojot šo jaunatklāto pieaugušo IQ, kļūst daudz vieglāk un ātrāk turpināt šo uzlabojumu līdz vietai, kurā tā IQ atbilst gudrāko zināmo cilvēku IQ. Bet atkal ar to viss nebeidzas.

Šis process tiek apvienots katrā jaunā intelekta līmenī, ievērojot paātrinātas atdeves likumu, līdz tas sasniedz neaprēķināmo superinteliģences līmeni — citiem vārdiem sakot, ja tas netiek kontrolēts un tam tiek piešķirti neierobežoti resursi, AGI pats pilnveidosies par ASI, intelektu, kas dabā nekad agrāk nav pastāvējusi.

To IJ Guds pirmo reizi atklāja, aprakstot šo "izlūkošanas sprādzienu" vai to, ko mūsdienu AI teorētiķi, piemēram, Niks Bostroms, sauc par AI "pacelšanās" notikumu.

Izpratne par mākslīgo superintelektu

Šobrīd daži no jums droši vien domā, ka galvenā atšķirība starp cilvēka intelektu un ASI intelektu ir tas, cik ātri abas puses spēj domāt. Un, lai gan ir taisnība, ka šī teorētiskā nākotnes ASI domās ātrāk nekā cilvēki, šī spēja jau ir diezgan izplatīta mūsdienu datoru nozarē — mūsu viedtālrunis domā (skaitļo) ātrāk nekā cilvēka prāts, superdators domā miljoniem reižu ātrāk nekā viedtālrunis, un nākotnes kvantu dators joprojām domās ātrāk.

Nē, ātrums nav inteliģences iezīme, ko mēs šeit skaidrojam. Tā ir kvalitāte.

Jūs varat paātrināt samojeda vai korgija smadzenes visu, ko vēlaties, taču tas nepārvēršas jaunā izpratnē, kā interpretēt valodu vai abstraktas idejas. Pat pēc desmit vai divām papildu desmitgadēm šie suņuki pēkšņi nesapratīs, kā izgatavot vai lietot instrumentus, nemaz nerunājot par sīkākajām atšķirībām starp kapitālistisku un sociālistisku ekonomikas sistēmu.

Runājot par intelektu, cilvēki darbojas citā plānā nekā dzīvnieki. Tāpat, ja ASI pilnībā sasniegs savu teorētisko potenciālu, viņu prāti darbosies tādā līmenī, kas ir tālu ārpus vidusmēra mūsdienu cilvēka sasniedzamības. Aplūkosim šo ASI lietojumprogrammas.

Kā mākslīgais superinteliģents varētu darboties līdzās cilvēcei?

Pieņemot, ka noteikta valdība vai korporācija veiksmīgi izveido ASI, kā viņi to varētu izmantot? Saskaņā ar Bostroma teikto, šīm ASI var būt trīs atsevišķas, bet saistītas formas:

Oracle Šeit mēs mijiedarbotos ar ASI tāpat kā mēs jau darām ar Google meklētājprogrammu; mēs uzdosim tam jautājumu, taču neatkarīgi no tā, cik sarežģīts ir jautājums, ASI uz to atbildēs perfekti un tādā veidā, kas ir pielāgots jums un jūsu jautājuma kontekstam.
džins. Šajā gadījumā mēs piešķirsim ASI konkrētu uzdevumu, un tas tiks izpildīts, kā norādīts. Izpētiet vēža ārstēšanu. Gatavs. Atrodiet visas planētas, kas paslēptas NASA Habla kosmiskā teleskopa 10 gadus vērto attēlu uzkrājumos. Gatavs. Izveidojiet funkcionējošu kodolsintēzes reaktoru, lai atrisinātu cilvēces enerģijas pieprasījumu. Abrakadabra.
neatkarīgs. Šeit ASI tiek piešķirta beztermiņa misija un tiek dota brīvība to izpildīt. Nozagt pētniecības un attīstības noslēpumus no mūsu korporatīvā konkurenta. "Viegli." Atklājiet visu ārvalstu spiegu identitātes, kas slēpjas mūsu robežās. "Uz tā." Nodrošināt nepārtrauktu Amerikas Savienoto Valstu ekonomisko labklājību. "Nekādu problēmu."

Tagad es zinu, ko jūs domājat, tas viss izklausās diezgan tālu. Tāpēc ir svarīgi atcerēties, ka katra problēma/izaicinājums, pat tās, kas līdz šim ir satriecušas pasaules gaišākos prātus, tās visas ir atrisināmas. Bet problēmas sarežģītību mēra pēc intelekta, kas to risina.

Citiem vārdiem sakot, jo lielāks prāts tiek pielietots izaicinājumam, jo vieglāk ir atrast risinājumu šim izaicinājumam. Jebkurš izaicinājums. Tas ir tāpat kā pieaugušais, kurš skatās, kā zīdainis cīnās, lai saprastu, kāpēc viņš nevar ievietot kvadrātveida kluci apaļā atverē — pieaugušajam parādīt, ka klucīnam jāiekļaujas kvadrātveida atverē, būtu bērnu spēle.

Tāpat, ja šī nākotnes ASI pilnībā izmantotu savu potenciālu, šis prāts kļūtu par visspēcīgāko intelektu zināmajā Visumā — pietiekami spēcīgs, lai atrisinātu jebkuru izaicinājumu, lai cik sarežģīts tas būtu.

Tāpēc daudzi AI pētnieki ASI sauc par pēdējo izgudrojumu, kas cilvēkam jebkad būs jāizstrādā. Ja esam pārliecināti strādāt kopā ar cilvēci, tas var mums palīdzēt atrisināt visas pasaules aktuālākās problēmas. Mēs pat varam lūgt to novērst visas slimības un izbeigt novecošanu, kā mēs to zinām. Cilvēce pirmo reizi var neatgriezeniski apkrāpt nāvi un nonākt jaunā labklājības laikmetā.

Taču iespējams arī pretējais.

Intelekts ir spēks. Ja to nepareizi pārvaldīs vai slikti aktieri dotu norādījumus, šis ASI varētu kļūt par galveno apspiešanas instrumentu vai arī pilnībā iznīcināt cilvēci — padomājiet par Skynet no Terminatora vai Arhitektu no Matrix filmām.

Patiesībā neviena galējība nav iespējama. Nākotne vienmēr ir daudz nekārtīgāka, nekā prognozē utopisti un distopisti. Tāpēc tagad, kad esam izpratuši ASI jēdzienu, pārējā šīs sērijas daļā tiks pētīts, kā ASI ietekmēs sabiedrību, kā sabiedrība aizstāvēsies pret negodīgiem ASI un kāda varētu izskatīties nākotne, ja cilvēki un AI dzīvos blakus. - pusē. Turpini lasīt.