Quantumrun

KREDIT ZA SLIKO: Quantumrun

Kako bomo ustvarili prvo umetno superinteligenco: Prihodnost umetne inteligence P3

David Tal, založnik, futurist
@DavidTalPiše
LinkedIn

Torek, 09 - 15:2020

Globoko v drugi svetovni vojni so nacistične sile preplavljale večji del Evrope. Imeli so napredno orožje, učinkovito vojno industrijo, fanatično vodeno pehoto, predvsem pa so imeli stroj z imenom Enigma. Ta naprava je nacističnim silam omogočila varno sodelovanje na dolgih razdaljah s pošiljanjem sporočil z Morsejevo kodo drug drugemu prek standardnih komunikacijskih linij; bil je šifrirni stroj, nepremagljiv za človeške razbijalce kod.

Na srečo so zavezniki našli rešitev. Za razbijanje Enigme niso več potrebovali človeškega uma. Namesto tega so zavezniki z izumom pokojnega Alana Turinga izdelali novo revolucionarno orodje, imenovano Britanska bomba, elektromehanska naprava, ki je končno razvozlala tajno šifro nacistov in jim na koncu pomagala zmagati v vojni.

Ta bomba je postavila temelje za sodoben računalnik.

Med razvojnim projektom Bombe je skupaj s Turingom delal IJ Good, britanski matematik in kriptolog. Zgodaj na koncu igre je videl, da bi lahko ta nova naprava nekega dne prinesla. V Papir 1965, on je pisal:

»Naj ultrainteligentni stroj definiramo kot stroj, ki lahko daleč preseže vse intelektualne dejavnosti katerega koli človeka, še tako pametnega. Ker je načrtovanje strojev ena od teh intelektualnih dejavnosti, bi lahko ultrainteligentni stroj oblikoval še boljše stroje; potem bi nedvomno prišlo do "eksplozije inteligence" in človeška inteligenca bi ostala daleč zadaj ... Tako je prvi ultrainteligentni stroj zadnji izum, ki bi ga človek kdaj moral izdelati, pod pogojem, da je stroj dovolj ubogljiv, da nam pove, kako imeti pod nadzorom.«

Ustvarjanje prve umetne superinteligence

Doslej smo v naši seriji Prihodnost umetne inteligence opredelili tri široke kategorije umetne inteligence (AI), od umetna ozka inteligenca (ANI) do umetna splošna inteligenca (AGI), toda v tem poglavju serije se bomo osredotočili na zadnjo kategorijo – tisto, ki med raziskovalci umetne inteligence povzroča vznemirjenje ali napade panike – umetno superinteligenco (ASI).

Če si želite omisliti, kaj je ASI, se boste morali spomniti prejšnjega poglavja, kjer smo orisali, kako raziskovalci umetne inteligence verjamejo, da bodo ustvarili prvi AGI. V bistvu bo potrebna kombinacija velikih podatkov, ki zagotavljajo boljše algoritme (tiste, ki so specializirani za samoizboljševanje in človeške učne sposobnosti), ki so nameščeni v vse močnejši računalniški strojni opremi.

V tem poglavju smo tudi orisali, kako bo AGI um (ko enkrat pridobi te sposobnosti samoizboljševanja in učenja, ki jih ljudje jemljemo za samoumevne) sčasoma prekašal človeški um z vrhunsko hitrostjo mišljenja, izboljšanim spominom, neutrudno zmogljivostjo in takojšnja nadgradljivost.

Toda tu je pomembno opozoriti, da se bo AGI samoizboljšal do omejitev strojne opreme in podatkov, do katerih ima dostop; ta omejitev je lahko velika ali majhna, odvisno od telesa robota, ki mu ga damo, ali obsega računalnikov, do katerih mu dovolimo dostop.

Medtem pa je razlika med AGI in ASI v tem, da slednji teoretično nikoli ne bo obstajal v fizični obliki. V celoti bo deloval znotraj superračunalnika ali mreže superračunalnikov. Odvisno od ciljev njegovih ustvarjalcev lahko dobi tudi popoln dostop do vseh podatkov, shranjenih na internetu, kot tudi katere koli naprave ali človeka, ki podaja podatke v in prek interneta. To pomeni, da ne bo nobene praktične omejitve glede tega, koliko se lahko ta ASI nauči in koliko se lahko sam izboljša.

In to je bistvo.

Razumevanje eksplozije inteligence

Ta proces samoizboljševanja, ki ga bodo AI sčasoma pridobili, ko bodo postali AGI (proces, ki ga skupnost AI imenuje rekurzivno samoizboljšanje), lahko potencialno izklopi pozitivno povratno zanko, ki je videti nekako takole:

Ustvari se nov AGI, ki dobi dostop do telesa robota ali velikega nabora podatkov, nato pa dobi preprosto nalogo, da se izobražuje in izboljša svojo inteligenco. Sprva bo imel ta AGI IQ dojenčka, ki se trudi dojeti nove koncepte. Sčasoma se nauči dovolj, da doseže IQ povprečne odrasle osebe, vendar se tu ne ustavi. Z uporabo tega novoodkritega IQ za odrasle postane veliko lažje in hitreje nadaljevati to izboljšavo do točke, ko se njegov IQ ujema z IQ najpametnejših znanih ljudi. A spet se tu ne ustavi.

Ta proces se združuje na vsaki novi ravni inteligence, pri čemer sledi zakonu pospeševanja donosov, dokler ne doseže neizračunljive ravni superinteligence – z drugimi besedami, če ga ne nadzorujemo in mu damo neomejene vire, se bo AGI sam izboljšal v ASI, intelekt, ki v naravi še nikoli ni obstajala.

To je tisto, kar je IJ Good prvi ugotovil, ko je opisal to 'eksplozijo inteligence' ali kar sodobni teoretiki umetne inteligence, kot je Nick Bostrom, imenujejo dogodek 'vzleta' umetne inteligence.

Razumevanje umetne superinteligence

Na tej točki nekateri od vas verjetno razmišljate, da je ključna razlika med človeško inteligenco in inteligenco ASI ta, kako hitro lahko katera koli stran razmišlja. In čeprav je res, da bo ta teoretični prihodnji ASI razmišljal hitreje od ljudi, je ta sposobnost že precej običajna v današnjem računalniškem sektorju – naš pametni telefon razmišlja (računa) hitreje od človeškega uma, superračunalnik razmišlja milijonkrat hitreje kot pametni telefon, prihodnji kvantni računalnik pa bo razmišljal še hitreje.

Ne, hitrost ni značilnost inteligence, ki jo tukaj razlagamo. To je kakovost.

Možgane svojega samojeda ali korgija lahko pospešite, kolikor želite, vendar to ne pomeni novega razumevanja, kako razlagati jezik ali abstraktne ideje. Tudi z dodatnim desetletjem ali dvema ti psi ne bodo kar naenkrat razumeli, kako izdelati ali uporabljati orodja, kaj šele razumeti drobnejših razlik med kapitalističnim in socialističnim ekonomskim sistemom.

Ko gre za inteligenco, ljudje delujemo na drugačni ravni kot živali. Podobno, če ASI doseže svoj polni teoretični potencial, bo njihov um deloval na ravni, ki je daleč zunaj dosega povprečnega sodobnega človeka. Za nekaj konteksta si poglejmo aplikacije teh ASI.

Kako bi lahko umetna superinteligenca delovala skupaj s človeštvom?

Če predpostavimo, da je določena vlada ali korporacija uspešna pri ustvarjanju ASI, kako bi ga lahko uporabili? Po mnenju Bostroma obstajajo tri ločene, vendar povezane oblike, ki jih lahko imajo ti ASI:

Oracle Tu bi z ASI sodelovali enako, kot že počnemo z iskalnikom Google; postavili mu bomo vprašanje, vendar ne glede na to, kako zapleteno je to vprašanje, bo ASI nanj odgovoril popolnoma in na način, ki je prilagojen vam in kontekstu vašega vprašanja.
Genie. V tem primeru bomo ASI dodelili določeno nalogo in ta se bo izvršil po ukazu. Raziščite zdravilo za raka. Končano. Poiščite vse planete, skrite v zaostanku 10 let vrednih slik Nasinega vesoljskega teleskopa Hubble. Končano. Naredite delujoč fuzijski reaktor, da rešite povpraševanje človeštva po energiji. Abrakadabra.
Suverena. Tukaj je ASI dodeljena misija odprtega tipa in svoboda, da jo izvede. Ukradi skrivnosti raziskav in razvoja našemu poslovnemu konkurentu. "Enostavno." Odkrijte identiteto vseh tujih vohunov, ki se skrivajo znotraj naših meja. "Na tem." Zagotovite nadaljnjo gospodarsko blaginjo Združenih držav. "Ni problema."

Zdaj vem, kaj si misliš, vse to zveni precej namišljeno. Zato si je pomembno zapomniti, da so vsi problemi/izzivi, tudi tisti, ki so doslej zmotili najbistrejše ume sveta, rešljivi. Toda težavnost problema se meri z intelektom, ki se ga loteva.

Z drugimi besedami, več kot je um usmerjen v izziv, lažje je najti rešitev za ta izziv. Vsak izziv. To je tako, kot da bi odrasel opazoval dojenčka, ki se muči, da bi razumel, zakaj ne more namestiti kvadratnega bloka v okroglo odprtino – za odraslega bi bilo pokazati dojenčku, da mora blok skozi kvadratno odprtino, otroška igra.

Podobno, če bi ta prihodnji ASI dosegel svoj polni potencial, bi ta um postal najmočnejši intelekt v znanem vesolju – dovolj močan, da reši vsak izziv, ne glede na to, kako zapleten je.

Zato mnogi raziskovalci umetne inteligence imenujejo ASI zadnji izum, ki ga bo človek kdaj moral narediti. Če smo prepričani, da delamo skupaj s človeštvom, nam lahko pomaga rešiti vse najbolj pereče probleme sveta. Lahko ga celo prosimo, da odpravi vse bolezni in konča staranje, kot ga poznamo. Človeštvo lahko prvič trajno prevara smrt in vstopi v novo dobo blaginje.

Možno pa je tudi nasprotno.

Inteligenca je moč. Če bi ga napačno upravljali ali mu ukazali slabi igralci, bi lahko ta ASI postal največje orodje zatiranja ali pa bi popolnoma iztrebil človeštvo – pomislite na Skynet iz Terminatorja ali Arhitekta iz filmov Matrix.

V resnici nobena skrajnost ni verjetna. Prihodnost je vedno veliko bolj grda, kot napovedujejo utopisti in distopisti. Zato bomo zdaj, ko razumemo koncept ASI, v nadaljevanju te serije raziskovali, kako bo ASI vplival na družbo, kako se bo družba branila pred lažnim ASI in kako bi lahko izgledala prihodnost, če bi ljudje in umetna inteligenca živeli drug ob drugem - stran. Beri naprej.