Quantumrun

KREDIT ZA SLIKU: Quantumrun

Kako ćemo stvoriti prvu umjetnu superinteligenciju: Budućnost umjetne inteligencije P3

David Tal, izdavač, futurist
@DavidTalWrites
LinkedIn

Uto, 09 - 15:2020

Duboko u Drugom svjetskom ratu, nacističke snage su se kretale kroz veći dio Evrope. Imali su napredno oružje, efikasnu ratnu industriju, fanatično vođenu pešadiju, ali iznad svega, imali su mašinu zvanu Enigma. Ovaj uređaj je omogućio nacističkim snagama da bezbedno sarađuju na velikim udaljenostima tako što su jedni drugima slali poruke Morzeovom šifrom preko standardnih komunikacionih linija; to je bila mašina za šifrovanje neosvojiva za ljude koji razbijaju šifre.

Srećom, saveznici su pronašli rješenje. Više im nije bio potreban ljudski um da razbiju Enigmu. Umjesto toga, kroz izum pokojnog Alana Turinga, saveznici su izgradili revolucionarno novo oruđe pod nazivom British Bombe, elektromehanički uređaj koji je konačno dešifrirao nacističku tajnu šifru i na kraju im pomogao da dobiju rat.

Ova bomba je postavila temelje za ono što je postalo moderni kompjuter.

Uz Turinga tokom razvojnog projekta Bombe radio je IJ Good, britanski matematičar i kriptolog. Uvidio je rano na kraju igre kako bi ovaj novi uređaj jednog dana mogao donijeti. U 1965 papir, napisao je:

„Neka se ultrainteligentna mašina definiše kao mašina koja može daleko nadmašiti sve intelektualne aktivnosti svakog čoveka koliko god da je pametan. Pošto je dizajn mašina jedna od ovih intelektualnih aktivnosti, ultrainteligentna mašina bi mogla da dizajnira još bolje mašine; tada bi nesumnjivo došlo do "eksplozije inteligencije" i inteligencija čoveka bi ostala daleko iza... Tako je prva ultrainteligentna mašina poslednji izum koji čovek treba da napravi, pod uslovom da je mašina dovoljno poslušna da nam kaže kako da to drži pod kontrolom.”

Stvaranje prve vještačke superinteligencije

Do sada smo u našoj seriji Future of Artificial Intelligence definisali tri široke kategorije veštačke inteligencije (AI), od umjetna uska inteligencija (ANI) do vještačka opća inteligencija (AGI), ali u ovom poglavlju serije, mi ćemo se fokusirati na posljednju kategoriju – onu koja izaziva uzbuđenje ili napade panike među istraživačima AI – umjetna superinteligencija (ASI).

Da biste shvatili šta je ASI, moraćete da se setite poslednjeg poglavlja u kojem smo opisali kako istraživači veštačke inteligencije veruju da će stvoriti prvi AGI. U osnovi, bit će potrebna kombinacija velikih algoritama koji hrane bolje algoritame (onih koji su specijalizirani za samousavršavanje i ljudske sposobnosti učenja) smještenih u sve moćnijem računarskom hardveru.

U tom poglavlju smo također opisali kako će AGI um (kada stekne ove sposobnosti samopoboljšanja i učenja koje mi ljudi uzimamo zdravo za gotovo) na kraju nadmašiti ljudski um putem superiorne brzine misli, poboljšane memorije, neumornih performansi i trenutnu nadogradnju.

Ali ovdje je važno napomenuti da će se AGI samo poboljšati do granica hardvera i podataka kojima ima pristup; ovo ograničenje može biti veliko ili malo ovisno o tijelu robota koje mu damo ili skali kompjutera kojima mu dozvoljavamo pristup.

U međuvremenu, razlika između AGI i ASI je u tome što ovaj drugi, teoretski, nikada neće postojati u fizičkom obliku. U potpunosti će funkcionisati unutar superkompjutera ili mreže superračunara. Ovisno o ciljevima svojih kreatora, može također dobiti potpuni pristup svim podacima pohranjenim na Internetu, kao i bilo kojem uređaju ili čovjeku koji unosi podatke na i preko Interneta. To znači da neće postojati praktična granica koliko ovaj ASI može naučiti i koliko se može samopoboljšati.

I to je problem.

Razumijevanje eksplozije inteligencije

Ovaj proces samopoboljšanja koji će AI na kraju dobiti kada postanu AGI (proces koji AI zajednica naziva rekurzivnim samopoboljšanjem) može potencijalno da izazove pozitivnu povratnu petlju koja izgleda otprilike ovako:

Kreira se novi AGI, kojem se daje pristup tijelu robota ili velikom skupu podataka, a zatim se daje jednostavan zadatak da se samoobrazuje, da poboljša svoju inteligenciju. U početku, ovaj AGI će imati IQ bebe koja se bori da shvati nove koncepte. Vremenom nauči dovoljno da dostigne IQ prosječne odrasle osobe, ali se ovdje ne zaustavlja. Koristeći ovaj novootkriveni IQ za odrasle, postaje mnogo lakše i brže nastaviti ovo poboljšanje do tačke u kojoj se njegov IQ podudara s onim najpametnijih poznatih ljudi. Ali opet, tu se ne zaustavlja.

Ovaj proces se povećava na svakom novom nivou inteligencije, prateći zakon ubrzanja povratka sve dok ne dostigne neprocenjiv nivo superinteligencije – drugim rečima, ako se ne kontroliše i dobije neograničene resurse, AGI će se samopoboljšati u ASI, intelekt koji nikada ranije nije postojao u prirodi.

To je ono što je IJ Good prvi identifikovao kada je opisao ovu 'eksploziju inteligencije' ili ono što moderni teoretičari AI, poput Nika Bostroma, nazivaju događajem 'poletanja' AI.

Razumevanje veštačke superinteligencije

U ovom trenutku, neki od vas vjerovatno misle da je ključna razlika između ljudske inteligencije i inteligencije ASI-ja u tome koliko brzo obje strane mogu razmišljati. I dok je istina da će ova teoretska budućnost ASI razmišljati brže od ljudi, ova sposobnost je već prilično uobičajena u današnjem računarskom sektoru – naš pametni telefon misli (računa) brže od ljudskog uma, a superkompjuter razmišlja milione puta brže od pametnog telefona, a budući kvantni računar će i dalje razmišljati brže.

Ne, brzina nije karakteristika inteligencije koju ovdje objašnjavamo. To je kvalitet.

Možete ubrzati mozak svog samojeda ili korgija koliko god želite, ali to se ne prevodi u novo razumijevanje kako tumačiti jezik ili apstraktne ideje. Čak i sa dodatnom deceniju ili dve, ovi psi neće odjednom shvatiti kako da naprave ili koriste alate, a kamoli da razumeju finije razlike između kapitalističkog i socijalističkog ekonomskog sistema.

Kada je u pitanju inteligencija, ljudi djeluju na drugom planu od životinja. Isto tako, ako ASI dostigne svoj puni teorijski potencijal, njihov um će raditi na nivou koji je daleko izvan dosega prosječnog modernog čovjeka. Za neki kontekst, pogledajmo primjenu ovih ASI-ja.

Kako bi umjetna superinteligencija mogla raditi zajedno s čovječanstvom?

Pod pretpostavkom da je određena vlada ili korporacija uspješna u stvaranju ASI-ja, kako bi ga mogli koristiti? Prema Bostromu, postoje tri odvojena, ali povezana oblika koji ovi ASI mogu imati:

Oracle. Ovdje bismo komunicirali sa ASI-jem na isti način kao što već radimo sa Google pretraživačem; mi ćemo mu postaviti pitanje, ali bez obzira koliko složeno postavljeno pitanje, ASI će odgovoriti savršeno i na način koji je prilagođen vama i kontekstu vašeg pitanja.
Genie. U ovom slučaju, ASI-ju ćemo dodijeliti određeni zadatak i on će se izvršiti prema naredbi. Istražite lijek za rak. Gotovo. Pronađite sve planete skrivene u zaostatku od 10 godina vrijednih slika s NASA-inog svemirskog teleskopa Hubble. Gotovo. Projektirajte radni fuzijski reaktor kako biste riješili energetske potrebe čovječanstva. Abrakadabra.
suveren. Ovdje je ASI-ju dodijeljena otvorena misija i data mu je sloboda da je izvrši. Ukradite tajne istraživanja i razvoja od našeg korporativnog konkurenta. "Lako." Otkrijte identitete svih stranih špijuna koji se kriju unutar naših granica. "Na njemu." Osigurati kontinuirani ekonomski prosperitet Sjedinjenih Država. "Nema problema."

Znam šta mislite, sve ovo zvuči prilično nategnuto. Zato je važno zapamtiti da su svaki problem/izazov tamo, čak i oni koji su do sada zbunili najbistrije umove svijeta, svi oni rješivi. Ali težina problema se mjeri intelektom koji ga rješava.

Drugim riječima, što je veći um primijenjen na izazov, lakše postaje pronaći rješenje za navedeni izazov. Bilo kakav izazov. To je kao da odrasla osoba gleda bebu kako se bori da shvati zašto ne može da stane kvadratni blok u okrugli otvor—za odraslu osobu, pokazivanje bebi da blok treba da stane kroz kvadratni otvor bila bi dečja igra.

Isto tako, ako ovaj budući ASI dostigne svoj puni potencijal, ovaj um bi postao najmoćniji intelekt u poznatom univerzumu - dovoljno moćan da riješi svaki izazov, bez obzira koliko složen.

Zbog toga mnogi istraživači AI nazivaju ASI posljednjim izumom koji će čovjek ikada morati napraviti. Ako budemo uvjereni da radimo zajedno s čovječanstvom, može nam pomoći da riješimo sve najhitnije probleme svijeta. Možemo čak tražiti da eliminira sve bolesti i zaustavi starenje kakvog poznajemo. Čovječanstvo može po prvi put trajno prevariti smrt i ući u novo doba prosperiteta.

Ali moguće je i suprotno.

Inteligencija je moć. Ako ga loše upravljaju ili ga pouče loši glumci, ovaj ASI bi mogao postati vrhunsko oruđe ugnjetavanja ili bi mogao potpuno uništiti čovječanstvo - pomislite na Skynet iz Terminatora ili Arhitektu iz filmova Matrix.

Istina, nijedna krajnost nije vjerovatna. Budućnost je uvijek daleko neurednija nego što predviđaju utopisti i distopičari. Zato sada kada razumijemo koncept ASI, ostatak ove serije će istražiti kako će ASI utjecati na društvo, kako će se društvo braniti od nevaljalog ASI-ja i kako bi budućnost mogla izgledati ako ljudi i AI žive rame uz rame -strana. Čitaj dalje.