Quantumrun

KREDIT ZA SLIKE: Quantumrun

Kako ćemo stvoriti prvu umjetnu superinteligenciju: budućnost umjetne inteligencije P3

David Tal, izdavač, futurist
@DavidTalPiše
LinkedIn

Uto, 09 / 15 / 2020 - 13: 17

Duboko u Drugom svjetskom ratu, nacističke snage harale su velikim dijelom Europe. Imali su napredno oružje, učinkovitu ratnu industriju, fanatično vođeno pješaštvo, ali iznad svega, imali su stroj po imenu Enigma. Ovaj je uređaj omogućio nacističkim snagama sigurnu suradnju na velikim udaljenostima slanjem poruka s Morseovim kodom jedni drugima preko standardnih komunikacijskih linija; bio je to stroj za šifriranje neosvojiv za ljudske razbijače kodova.

Srećom, saveznici su pronašli rješenje. Više im nije trebao ljudski um da razbiju Enigmu. Umjesto toga, pomoću izuma pokojnog Alana Turinga, Saveznici su napravili revolucionarno novo oruđe pod nazivom britanske bombe, elektromehanički uređaj koji je konačno dešifrirao nacističku tajnu šifru, te im u konačnici pomogao da dobiju rat.

Ova Bombe postavila je temelje za ono što je postalo moderno računalo.

Uz Turinga tijekom razvojnog projekta Bombe radio je IJ Good, britanski matematičar i kriptolog. Rano je vidio što bi ovaj novi uređaj jednog dana mogao donijeti. U 1965 papir, napisao je:

“Neka se ultrainteligentni stroj definira kao stroj koji može daleko nadmašiti sve intelektualne aktivnosti bilo kojeg čovjeka koliko god bio pametan. Budući da je dizajn strojeva jedna od tih intelektualnih aktivnosti, ultrainteligentni stroj mogao bi dizajnirati još bolje strojeve; tada bi nedvojbeno došlo do "eksplozije inteligencije", a inteligencija čovjeka bila bi ostavljena daleko iza... Stoga je prvi ultrainteligentni stroj posljednji izum koji čovjek treba ikada napraviti, pod uvjetom da je stroj dovoljno poslušan da nam kaže kako držati ga pod kontrolom«.

Stvaranje prve umjetne superinteligencije

Do sada smo u našoj seriji Future of Artificial Intelligence definirali tri široke kategorije umjetne inteligencije (AI), od umjetna uska inteligencija (ANI) do umjetna opća inteligencija (AGI), ali u ovom poglavlju serije usredotočit ćemo se na posljednju kategoriju — onu koja izaziva ili uzbuđenje ili napadaje panike među istraživačima umjetne inteligencije — umjetnu superinteligenciju (ASI).

Da biste shvatili što je ASI, morat ćete se sjetiti zadnjeg poglavlja u kojem smo opisali kako istraživači umjetne inteligencije vjeruju da će stvoriti prvi AGI. U osnovi, bit će potrebna kombinacija velikih algoritama za hranjenje podataka (onih koji su specijalizirani za samopoboljšanje i sposobnosti učenja sličnih ljudskim) smještenih u sve snažniji računalni hardver.

U tom smo poglavlju također opisali kako će AGI um (jednom kada stekne te sposobnosti samopoboljšanja i učenja koje mi ljudi uzimamo zdravo za gotovo) s vremenom nadmašiti ljudski um putem superiorne brzine mišljenja, poboljšanog pamćenja, neumorne izvedbe i mogućnost trenutne nadogradnje.

Ali ovdje je važno napomenuti da će se AGI samopoboljšati do granica hardvera i podataka kojima ima pristup; ovo ograničenje može biti veliko ili malo, ovisno o tijelu robota koje mu dajemo ili o veličini računala kojima mu dopuštamo pristup.

U međuvremenu, razlika između AGI i ASI je u tome što potonji, teoretski, nikada neće postojati u fizičkom obliku. Radit će u potpunosti unutar superračunala ili mreže superračunala. Ovisno o ciljevima njegovih kreatora, također može dobiti potpuni pristup svim podacima pohranjenim na Internetu, kao i bilo kojem uređaju ili čovjeku koji ubacuje podatke u i preko Interneta. To znači da neće biti praktičnog ograničenja koliko ovaj ASI može naučiti i koliko se može sam poboljšati.

I to je problem.

Razumijevanje eksplozije inteligencije

Ovaj proces samopoboljšanja koji će umjetna inteligencija s vremenom dobiti kada postanu AGI (proces koji AI zajednica naziva rekurzivnim samopoboljšanjem) potencijalno može prekinuti pozitivnu povratnu petlju koja izgleda otprilike ovako:

Stvoren je novi AGI, dobio je pristup tijelu robota ili velikom skupu podataka, a zatim dobio jednostavan zadatak da se obrazuje, da poboljša svoju inteligenciju. U početku će ovaj AGI imati IQ djeteta koje se bori da shvati nove koncepte. S vremenom nauči dovoljno da dostigne IQ prosječne odrasle osobe, ali ne staje ovdje. Koristeći ovaj novootkriveni kvocijent inteligencije za odrasle, postaje mnogo lakše i brže nastaviti ovo poboljšanje do točke u kojoj se njegov kvocijent inteligencije podudara s IQ-om najpametnijih poznatih ljudi. Ali opet, tu ne staje.

Ovaj se proces razvija na svakoj novoj razini inteligencije, slijedeći zakon ubrzanja prinosa sve dok ne dosegne nesagledivu razinu superinteligencije—drugim riječima, ako se ne kontrolira i ako mu se daju neograničeni resursi, AGI će se sam poboljšati u ASI, intelekt koji nikada prije nije postojala u prirodi.

To je ono što je IJ Good prvi identificirao kada je opisao ovu 'eksploziju inteligencije' ili ono što moderni teoretičari umjetne inteligencije, poput Nicka Bostroma, nazivaju događajem 'uzleta' umjetne inteligencije.

Razumijevanje umjetne superinteligencije

U ovom trenutku neki od vas vjerojatno misle da je ključna razlika između ljudske inteligencije i inteligencije ASI-ja koliko brzo obje strane mogu razmišljati. I dok je istina da će ovaj teoretski budući ASI razmišljati brže od ljudi, ta je sposobnost već prilično uobičajena u današnjem sektoru računala – naš pametni telefon misli (računa) brže od ljudskog uma, superračunalo misli milijune puta brže od pametnog telefona, a buduće kvantno računalo mislit će još brže.

Ne, brzina nije značajka inteligencije koju ovdje objašnjavamo. To je kvaliteta.

Možete ubrzati mozak svog samojeda ili korgija koliko god želite, ali to se ne prevodi u novo razumijevanje kako tumačiti jezik ili apstraktne ideje. Čak i s dodatnim desetljećem ili dva, ti psići odjednom neće shvatiti kako napraviti ili koristiti alate, a kamoli razumjeti finije razlike između kapitalističkog i socijalističkog ekonomskog sustava.

Kad je riječ o inteligenciji, ljudi djeluju na drugom planu od životinja. Isto tako, ako ASI dosegne svoj puni teorijski potencijal, njihovi umovi će djelovati na razini daleko izvan dosega prosječnog modernog čovjeka. Za neki kontekst, pogledajmo primjene ovih ASI-ja.

Kako bi umjetna superinteligencija mogla raditi uz čovječanstvo?

Pod pretpostavkom da je određena vlada ili korporacija uspješna u stvaranju ASI-ja, kako bi ga mogli koristiti? Prema Bostromu, postoje tri odvojena, ali povezana oblika koje ovaj ASI može imati:

Oracle. Ovdje bismo komunicirali s ASI-jem isto kao što već radimo s Google tražilicom; postavit ćemo mu pitanje, ali koliko god to pitanje bilo složeno, ASI će na njega odgovoriti savršeno i na način koji je prilagođen vama i kontekstu vašeg pitanja.
duh. U ovom slučaju, ASI-ju ćemo dodijeliti određeni zadatak i on će se izvršiti prema naredbi. Istražite lijek za rak. Gotovo. Pronađite sve planete skrivene u zaostatku od 10 godina vrijednih slika NASA-inog svemirskog teleskopa Hubble. Gotovo. Napravite funkcionalni fuzijski reaktor kako biste riješili potrebe čovječanstva za energijom. Abrakadabra.
Suveren. Ovdje je ASI-ju dodijeljena otvorena misija i sloboda da je izvrši. Ukradi tajne istraživanja i razvoja od našeg korporativnog konkurenta. "Lako." Otkrijte identitete svih stranih špijuna koji se skrivaju unutar naših granica. "Na tome." Osigurati kontinuirani ekonomski prosperitet Sjedinjenih Država. "Nema problema."

Sada, znam što mislite, sve ovo zvuči prilično nategnuto. Zato je važno upamtiti da je svaki problem/izazov vani, čak i onaj koji je dosad zbunio najbistrije umove svijeta, rješiv. Ali težina problema mjeri se intelektom koji se njime bavi.

Drugim riječima, što je veći um usmjeren na izazov, to postaje lakše pronaći rješenje za taj izazov. Svaki izazov. To je kao da odrasla osoba gleda dojenče koje se muči da shvati zašto ne može stati kvadratni blok u okrugli otvor—za odraslu osobu, pokazati djetetu da blok treba stati kroz četvrtasti otvor bila bi dječja igra.

Isto tako, ako ovaj budući ASI dosegne svoj puni potencijal, ovaj bi um postao najmoćniji intelekt u poznatom svemiru - dovoljno moćan da riješi svaki izazov, bez obzira koliko složen.

Zbog toga mnogi istraživači umjetne inteligencije nazivaju ASI posljednjim izumom koji će čovjek ikada morati napraviti. Ako smo uvjereni da radimo uz čovječanstvo, to nam može pomoći u rješavanju svih najhitnijih svjetskih problema. Možemo ga čak i zamoliti da ukloni sve bolesti i zaustavi starenje kakvo poznajemo. Čovječanstvo po prvi put može trajno prevariti smrt i ući u novo doba prosperiteta.

Ali moguće je i suprotno.

Inteligencija je moć. Ako se njime loše upravlja ili ga instruiraju loši glumci, ovaj bi ASI mogao postati ultimativno oruđe ugnjetavanja ili bi mogao potpuno istrijebiti čovječanstvo - pomislite na Skynet iz Terminatora ili Arhitekta iz filmova Matrix.

Istina, nijedna krajnost nije vjerojatna. Budućnost je uvijek daleko neurednija nego što predviđaju utopisti i distopisti. Zato sada kada razumijemo koncept ASI-ja, ostatak ove serije istražit će kako će ASI utjecati na društvo, kako će se društvo obraniti od lažnog ASI-ja i kako bi budućnost mogla izgledati ako ljudi i umjetna inteligencija žive jedni pored drugih -strana. Nastavi čitati.