Quantumrun

BILDEKREDITT: Quantumrun

Hvordan den første kunstige generelle intelligensen vil endre samfunnet: Future of artificial intelligence P2

David Tal, utgiver, fremtidsforsker
@DavidTalWrites
Linkedin

tirsdag 09 - 15:2020

Vi har bygget pyramider. Vi lærte å utnytte elektrisitet. Vi forstår hvordan universet vårt ble dannet etter Big Bang (for det meste). Og selvfølgelig, klisjéeksemplet, vi har satt en mann på månen. Likevel, til tross for alle disse prestasjonene, forblir den menneskelige hjernen langt utenfor forståelsen av moderne vitenskap og er, som standard, det mest komplekse objektet i det kjente universet – eller i det minste vår forståelse av det.

Gitt denne virkeligheten, burde det ikke være helt sjokkerende at vi ennå ikke har bygget en kunstig intelligens (AI) på linje med mennesker. En AI som Data (Star Trek), Rachael (Blade Runner) og David (Prometheus), eller ikke-humanoid AI som Samantha (Her) og TARS (Interstellar), disse er alle eksempler på den neste store milepælen i AI-utvikling: kunstig generell intelligens (AGI, noen ganger også referert til som HLMI eller Human Level Machine Intelligence).

Med andre ord, utfordringen AI-forskere står overfor er: Hvordan kan vi bygge et kunstig sinn som kan sammenlignes med vårt eget når vi ikke engang har full forståelse for hvordan vårt eget sinn fungerer?

Vi skal utforske dette spørsmålet, sammen med hvordan mennesker vil stå opp mot fremtidige AGI-er, og til slutt, hvordan samfunnet vil endre seg dagen etter at den første AGI-en blir kunngjort for verden.

Hva er en kunstig generell intelligens?

Design en AI som enkelt kan slå de topprangerte spillerne i Chess, Jeopardy og Go (Deep Blue, Watsonog AlphaGO henholdsvis). Design en AI som kan gi deg svar på ethvert spørsmål, foreslå varer du kanskje vil kjøpe, eller administrer en flåte av rideshare-taxier – hele selskaper for flere milliarder dollar er bygget rundt dem (Google, Amazon, Uber). Selv en kunstig intelligens som kan kjøre deg fra den ene siden av landet til den andre ... vel, vi jobber med det.

Men be en AI om å lese en barnebok og forstå innholdet, meningen eller moralen den prøver å lære bort, eller be en AI fortelle forskjellen mellom et bilde av en katt og en sebra, og du vil ende opp med å forårsake mer enn noen få kortslutninger.

Naturen brukte millioner av år på å utvikle en dataenhet (hjerner) som utmerker seg ved å behandle, forstå, lære og deretter handle på nye situasjoner og i nye miljøer. Sammenlign det med det siste halve århundret med informatikk som fokuserte på å lage dataenheter som var skreddersydd for de enestående oppgavene de var designet for.

Med andre ord er menneske-datamaskinen en generalist, mens den kunstige datamaskinen er en spesialist.

Målet med å lage en AGI er å skape en AI som kan tenke og lære mer som et menneske, gjennom erfaring i stedet for direkte programmering.

I den virkelige verden vil dette bety at en fremtidig AGI lærer å lese, skrive og fortelle en vits, eller gå, løpe og sykle stort sett på egen hånd, ved hjelp av sin egen erfaring i verden (ved hjelp av hvilken som helst kropp eller sanseorganer/enheter vi gir den), og gjennom sin egen interaksjon andre AI og andre mennesker.

Hva som skal til for å bygge en kunstig generell intelligens

Selv om det er teknisk vanskelig, må det være mulig å lage en AGI. Hvis faktisk, det er en dypt holdt egenskap innenfor fysikkens lover – universaliteten til beregning – som i bunn og grunn sier at alt et fysisk objekt kan gjøre, bør en tilstrekkelig kraftig, generell datamaskin i prinsippet være i stand til å kopiere/simulere.

Og likevel er det vanskelig.

Heldigvis er det mange smarte AI-forskere på saken (for ikke å nevne mange bedrifts-, regjerings- og militærfinansiering som støtter dem), og så langt har de identifisert tre nøkkelingredienser de føler er nødvendige å løse for å få en AGI inn i vår verden.

Big data. Den vanligste tilnærmingen til AI-utvikling involverer en teknikk kalt dyp læring – en spesifikk type maskinlæringssystem som fungerer ved å slurpe opp gigantiske mengder data, knuse nevnte data i et nettverk av simulerte nevroner (modellert etter den menneskelige hjernen), og deretter bruke funnene til å programmere sin egen innsikt. For mer informasjon om dyp læring, les dette.

For eksempel, i 2017, matet Google sin AI med tusenvis av bilder av katter som dets dyplæringssystem brukte for å lære ikke bare å identifisere en katt, men å skille mellom forskjellige katteraser. Ikke lenge etter annonserte de den forestående utgivelsen av Google-linse, en ny søkeapp som lar brukere ta bilder av hva som helst, og Google vil ikke bare fortelle deg hva det er, men også tilby noe nyttig kontekstuelt innhold som beskriver det – nyttig når du reiser og vil lære mer om en spesifikk turistattraksjon. Men også her ville Google Lens ikke vært mulig uten de milliarder av bilder som for tiden er oppført i bildesøkemotoren.

Og likevel er denne kombinasjonen av store data og dyp læring fortsatt ikke nok til å få til en AGI.

Bedre algoritmer. I løpet av det siste tiåret har et Google-datterselskap og en leder i AI-området, DeepMind, slått til ved å kombinere styrken til dyp læring med forsterkende læring – en gratis maskinlæringstilnærming som tar sikte på å lære AI hvordan man tar handlinger i nye miljøer for å oppnå et fastsatt mål.

Takket være denne hybridtaktikken lærte DeepMinds førsteklasses AI, AlphaGo, seg selv ikke bare å spille AlphaGo ved å laste ned reglene og studere strategiene til mestre menneskelige spillere, men etter å ha spilt mot seg selv millioner av ganger kunne han slå de beste AlphaGo-spillerne ved å bruke trekk og strategier som aldri før er sett i spillet.

På samme måte innebar DeepMinds Atari-programvareeksperiment å gi en AI et kamera for å se en typisk spillskjerm, programmere den med muligheten til å legge inn spillordre (som joystick-knapper), og gi den det enestående målet å øke poengsummen. Resultatet? I løpet av få dager lærte det seg selv hvordan man spiller og hvordan man mestrer dusinvis av klassiske arkadespill.

Men så spennende som disse tidlige suksessene er, er det fortsatt noen viktige utfordringer å løse.

For det første jobber AI-forskere med å lære AI et triks kalt "chunking" som menneske- og dyrehjerner er eksepsjonelt gode på. Enkelt sagt, når du bestemmer deg for å gå ut for å kjøpe dagligvarer, er du i stand til å visualisere sluttmålet ditt (kjøpe en avokado) og en grov plan for hvordan du vil gjøre det (forlate huset, besøke matbutikken, kjøpe avokadoen, hjem). Det du ikke gjør er å planlegge hvert pust, hvert skritt, alle mulige beredskaper på veien dit. I stedet har du et konsept (klump) i tankene dine om hvor du ønsker å dra og tilpasse turen til den situasjonen som måtte oppstå.

Så vanlig som det kan føles for deg, er denne evnen en av de viktigste fordelene menneskelige hjerner fortsatt har fremfor AI – det er tilpasningsevnen til å sette et mål og forfølge det uten å vite alle detaljer på forhånd og til tross for enhver hindring eller miljøendringer vi kan støte på. Denne ferdigheten vil gjøre det mulig for AGI-er å lære mer effektivt, uten behov for de store dataene nevnt ovenfor.

En annen utfordring er evnen til å ikke bare lese en bok, men forstå meningen eller konteksten bak. Langsiktig er målet her at en AI skal lese en avisartikkel og være i stand til å svare nøyaktig på en rekke spørsmål om hva den leser, på en måte som å skrive en bokrapport. Denne evnen vil transformere en AI fra bare en kalkulator som knuser tall til en enhet som knuser mening.

Totalt sett vil ytterligere fremskritt til en selvlærende algoritme som kan etterligne den menneskelige hjernen spille en nøkkelrolle i den eventuelle etableringen av en AGI, men ved siden av dette arbeidet trenger AI-fellesskapet også bedre maskinvare.

Bedre maskinvare. Ved å bruke de nåværende tilnærmingene som er forklart ovenfor, vil en AGI først bli mulig etter at vi seriøst øker datakraften som er tilgjengelig for å kjøre den.

For kontekst, hvis vi tok den menneskelige hjernens evne til å tenke og konverterte den til beregningstermer, så er det grove estimatet av et gjennomsnittlig menneskes mentale kapasitet én eksaflop, som tilsvarer 1,000 petaflops ('Flop' står for flytepunktoperasjoner pr. sekund og måler beregningshastigheten).

Til sammenligning, innen utgangen av 2018, verdens kraftigste superdatamaskin, Japans AI Bridging Cloud vil nynne på 130 petaflops, langt under en exaflop.

Som skissert i vår superdatamaskiner kapittel i vår Fremtiden for datamaskiner serien jobber både USA og Kina med å bygge sine egne exaflop-superdatamaskiner innen 2022, men selv om de lykkes, er det kanskje ikke nok.

Disse superdatamaskinene opererer på flere titalls megawatt strøm, tar opp flere hundre kvadratmeter plass og koster flere hundre millioner å bygge. En menneskelig hjerne bruker bare 20 watt strøm, passer inn i en hodeskalle som er omtrent 50 cm i omkrets, og det er syv milliarder av oss (2018). Med andre ord, hvis vi ønsker å gjøre AGI-er like vanlig som mennesker, må vi lære å lage dem mye mer økonomisk.

For det formål begynner AI-forskere å vurdere å drive fremtidige AI-er med kvantedatamaskiner. Beskrevet mer detaljert i kvante datamaskiner kapittel i vår Future of Computers-serie, fungerer disse datamaskinene på en fundamentalt annen måte enn datamaskinene vi har bygget det siste halve århundret. Når den er perfeksjonert i 2030-årene, vil en enkelt kvantedatamaskin utberegne hver superdatamaskin som for tiden opererer i 2018, globalt sett. De vil også være mye mindre og bruke langt mindre energi enn dagens superdatamaskiner.

Hvordan ville en kunstig generell intelligens være et menneske overlegen?

La oss anta at hver utfordring som er oppført ovenfor blir funnet ut, at AI-forskere finner suksess i å lage den første AGI. Hvordan vil et AGI-sinn være annerledes enn vårt eget?

For å svare på denne typen spørsmål, må vi klassifisere AGI-sinnene i tre kategorier, de som lever i en robotkropp (Data fra Star Trek), de som har en fysisk form, men som er koblet trådløst til internett/skyen (Agent Smith fra Matrisen) og de uten fysisk form som lever utelukkende på en datamaskin eller på nettet (Samantha fra Her).

Til å begynne med vil AGI-er inne i en robotkropp isolert fra nettet konkurrere på nivå med menneskelige sinn, men med utvalgte fordeler:

Minne: Avhengig av utformingen av AGIs robotform, vil deres korttidshukommelse og minne om nøkkelinformasjon definitivt være mennesker overlegen. Men på slutten av dagen er det en fysisk grense for hvor mye harddiskplass du kan pakke inn i roboten, forutsatt at vi designer dem slik at de ser ut som mennesker. Av denne grunn vil AGIs langtidsminne fungere veldig likt menneskers, aktivt glemme informasjon og minner som anses som unødvendige for fremtidig funksjon (for å frigjøre "diskplass").
Hastighet: Ytelsen til nevroner inne i den menneskelige hjernen maksimalt er på omtrent 200 hertz, mens moderne mikroprosessorer kjører på gigahertz-nivå, så millioner av ganger raskere enn nevroner. Dette betyr at sammenlignet med mennesker vil fremtidige AGI-er behandle informasjon og ta beslutninger raskere enn mennesker. Merk deg, dette betyr ikke nødvendigvis at denne AGI vil ta smartere eller mer korrekte avgjørelser enn mennesker, bare at de kan komme til konklusjoner raskere.
Ytelse: Enkelt sagt, den menneskelige hjernen blir sliten hvis den opererer for lenge uten hvile eller søvn, og når den gjør det, blir dens hukommelse og evne til å lære og fornuft svekket. I mellomtiden, for AGI-er, forutsatt at de blir ladet opp (elektrisitet) regelmessig, vil de ikke ha den svakheten.
Oppgraderbarhet: For et menneske kan det å lære en ny vane ta uker med praksis, å lære en ny ferdighet kan ta måneder, og å lære et nytt yrke kan ta år. For en AGI vil de ha muligheten til å lære både av erfaring (som mennesker) og ved direkte dataopplasting, på samme måte som du regelmessig oppdaterer datamaskinens OS. Disse oppdateringene kan gjelde kunnskapsoppgraderinger (nye ferdigheter) eller ytelsesoppgraderinger til AGIs fysiske form.

La oss deretter se på AGI-er som har en fysisk form, men som også er koblet trådløst til internett/skyen. Forskjellene vi kan se med dette nivået sammenlignet med ikke-tilkoblede AGI-er inkluderer:

Minne: Disse AGI-ene vil ha alle de kortsiktige fordelene som den forrige AGI-klassen har, bortsett fra at de også vil dra nytte av perfekt langtidsminne siden de kan laste opp disse minnene til skyen for å få tilgang til dem ved behov. Det er klart at dette minnet ikke vil være tilgjengelig i områder med lav tilkobling, men det vil bli mindre bekymringsfullt i løpet av 2020- og 2030-årene når mer av verden kommer online. Les mer i kapittel en av vår Internetts fremtid serien.
Hastighet: Avhengig av hvilken type hindring denne AGI møter, kan de få tilgang til den større datakraften til skyen for å hjelpe dem med å løse den.
Ytelse: Ingen forskjell sammenlignet med ikke-tilkoblede AGI-er.
Oppgraderbarhet: Den eneste forskjellen mellom med denne AGI når det gjelder oppgradering er at de kan få tilgang til oppgraderinger i sanntid, trådløst, i stedet for å måtte besøke og koble til et oppgraderingsdepot.
Kollektiv: Mennesker ble jordens dominerende art, ikke fordi vi var det største eller sterkeste dyret, men fordi vi lærte å kommunisere og samarbeide på ulike måter for å oppnå kollektive mål, fra å jakte på en ullmammut til å bygge den internasjonale romstasjonen. Et team av AGIer ville ta dette samarbeidet til neste nivå. Gitt alle de kognitive fordelene som er oppført ovenfor og deretter kombinere det med evnen til å kommunisere trådløst, både personlig og over lange avstander, kan et fremtidig AGI-team/hive-sinn teoretisk takle prosjekter langt mer effektivt enn et team av mennesker.

Til slutt, den siste typen AGI er versjonen uten fysisk form, en som opererer inne i en datamaskin, og som har tilgang til den fulle datakraften og online-ressursene som skaperne gir den. I sci-fi-show og bøker tar disse AGI-ene vanligvis form av ekspert virtuelle assistenter/venner eller det spunky operativsystemet til et romskip. Men sammenlignet med de to andre kategoriene av AGI, vil denne AI avvike på følgende måter;

Hastighet: Ubegrenset (eller i det minste til grensene for maskinvaren den har tilgang til).
Minne: Ubegrenset
Ytelse: Økning i beslutningstakingskvalitet takket være tilgangen til superdatasentre.
Oppgraderbarhet: Absolutt, i sanntid, og med et ubegrenset utvalg av kognitive oppgraderinger. Selvfølgelig, siden denne AGI-kategorien ikke har en fysisk robotform, vil den ikke ha behov for de fysiske oppgraderingene som er tilgjengelige med mindre disse oppgraderingene er til superdatamaskinene den opererer i.
Kollektiv: I likhet med den forrige AGI-kategorien vil denne kroppsløse AGI-en samarbeide effektivt med sine AGI-kolleger. Men gitt sin mer direkte tilgang til ubegrenset datakraft og tilgang til nettressurser, vil disse AGI-ene vanligvis ta lederroller i et samlet AGI-kollektiv.

Når vil menneskeheten skape den første kunstige generelle intelligensen?

Det er ingen fastsatt dato for når AI-forskningsmiljøet tror de vil finne opp en legitim AGI. Imidlertid, a 2013 undersøkelse av 550 av verdens beste AI-forskere, utført av ledende AI-forskningstenkere Nick Bostrom og Vincent C. Müller, satte gjennomsnittet ut av utvalget av meninger til tre mulige år:

Median optimistisk år (10 % sannsynlighet): 2022
Median realistisk år (50 % sannsynlighet): 2040
Median pessimistisk år (90 % sannsynlighet): 2075

Hvor nøyaktige disse prognosene er spiller ingen rolle. Det som betyr noe er at det store flertallet av AI-forskningsmiljøet tror vi vil finne opp en AGI i løpet av vår levetid og relativt tidlig i dette århundret.

Hvordan å skape en kunstig generell intelligens vil endre menneskeheten

Vi utforsker virkningen av disse nye AI i detalj gjennom det aller siste kapittelet i denne serien. Når det er sagt, for dette kapittelet vil vi si at opprettelsen av en AGI vil være veldig lik den samfunnsmessige reaksjonen vi vil oppleve dersom mennesker finner liv på Mars.

En leir vil ikke forstå betydningen og vil fortsette å tenke at forskere gjør en stor sak med å lage enda en kraftigere datamaskin.

En annen leir, sannsynligvis bestående av ludditter og religiøst sinnede individer, vil frykte denne AGI, og tro at det er en vederstyggelighet at den vil prøve å utrydde menneskeheten SkyNet-stil. Denne leiren vil aktivt gå inn for å slette/ødelegge AGI-er i alle deres former.

På baksiden vil den tredje leiren se på denne skapelsen som en moderne åndelig begivenhet. På alle måter som betyr noe, vil denne AGI være en ny form for liv, en som tenker annerledes enn vi gjør, og hvis mål er annerledes enn våre egne. Når opprettelsen av en AGI er annonsert, vil mennesker ikke lenger dele jorden med bare dyr, men også sammen med en ny klasse av kunstige vesener hvis intelligens er på nivå med eller overlegen vår egen.

Den fjerde leiren vil inkludere næringsinteresser som skal undersøke hvordan de kan bruke AGIer til å møte ulike forretningsbehov, som å fylle hull i arbeidsmarkedet og fremskynde utviklingen av nye varer og tjenester.

Deretter har vi representanter fra alle myndighetsnivåer som vil snuble over seg selv og prøve å finne ut hvordan de skal regulere AGI-er. Dette er nivået der alle moraliserende og filosofiske debatter vil komme på spissen, spesielt rundt om man skal behandle disse AGI-ene som eiendom eller som personer.

Og til slutt vil den siste leiren være militære og nasjonale sikkerhetsbyråer. I sannhet er det en god sjanse for at den offentlige kunngjøringen av den første AGI kan bli forsinket med måneder til år på grunn av denne leiren alene. Hvorfor? Fordi oppfinnelsen av en AGI på kort tid vil føre til opprettelsen av en kunstig superintelligens (ASI), en som vil representere en massiv geopolitisk trussel og en mulighet som langt overgår oppfinnelsen av atombomben.

Av denne grunn vil de neste kapitlene fokusere helt på temaet ASI og om menneskeheten vil overleve etter oppfinnelsen.

(Altfor dramatisk måte å avslutte et kapittel på? Du vedder.)