Quantumrun

BILDKREDIT: Quantumrun

Hur den första artificiella allmänna intelligensen kommer att förändra samhället: Future of artificiell intelligens P2

David Tal, Förläggare, Futurist
@DavidTalWrites
LinkedIn

Tis, 09 / 15 / 2020 - 13: 08

Vi har byggt pyramider. Vi lärde oss att utnyttja elektricitet. Vi förstår hur vårt universum bildades efter Big Bang (för det mesta). Och naturligtvis, klyschexemplet, vi har satt en man på månen. Ändå, trots alla dessa prestationer, förblir den mänskliga hjärnan långt utanför förståelsen av modern vetenskap och är, som standard, det mest komplexa objektet i det kända universum – eller åtminstone vår förståelse av det.

Med tanke på denna verklighet borde det inte vara helt chockerande att vi ännu inte har byggt en artificiell intelligens (AI) i paritet med människor. En AI som Data (Star Trek), Rachael (Blade Runner) och David (Prometheus), eller icke-humanoid AI som Samantha (Henne) och TARS (Interstellar), dessa är alla exempel på nästa stora milstolpe i AI-utveckling: artificiell allmän intelligens (AGI, ibland även kallad HLMI eller Human Level Machine Intelligence).

Utmaningen som AI-forskare står inför är med andra ord: Hur kan vi bygga ett artificiellt sinne som är jämförbart med vårt eget när vi inte ens har en fullständig förståelse för hur vårt eget sinne fungerar?

Vi kommer att utforska den här frågan, tillsammans med hur människor kommer att stå sig mot framtida AGI:er, och slutligen, hur samhället kommer att förändras dagen efter att den första AGI tillkännages för världen.

Vad är en artificiell allmän intelligens?

Designa en AI som enkelt kan slå de högst rankade spelarna i Chess, Jeopardy och Go (DJUPBLÅ, Watsonoch AlphaGO respektive). Designa en AI som kan ge dig svar på alla frågor, föreslå föremål som du kanske vill köpa eller hantera en flotta av samåkningstaxibilar – hela mångmiljardföretag är byggda runt dem (Google, Amazon, Uber). Till och med en AI som kan driva dig från ena sidan av landet till den andra ... ja, vi jobbar på det.

Men be en AI att läsa en barnbok och förstå innehållet, innebörden eller moralen den försöker lära ut, eller be en AI berätta skillnaden mellan en bild på en katt och en zebra, så kommer du att orsaka mer än ett fåtal kortslutningar.

Naturen ägnade miljontals år åt att utveckla en datorenhet (hjärnor) som utmärker sig på att bearbeta, förstå, lära och sedan agera i nya situationer och i nya miljöer. Jämför det med det senaste halvseklets datavetenskap som fokuserade på att skapa datorenheter som var skräddarsydda för de unika uppgifter de var designade för.

Med andra ord är människans dator en generalist, medan den konstgjorda datorn är en specialist.

Målet med att skapa en AGI är att skapa en AI som kan tänka och lära sig mer som en människa, genom erfarenhet snarare än genom direkt programmering.

I den verkliga världen skulle detta innebära att en framtida AGI lär sig läsa, skriva och berätta ett skämt, eller gå, springa och cykla i stort sett på egen hand, genom sin egen erfarenhet i världen (med vilken kropp eller sensoriska organ/enheter vi ger den), och genom sin egen interaktion andra AI och andra människor.

Vad som krävs för att bygga en artificiell allmän intelligens

Även om det är tekniskt svårt måste det vara möjligt att skapa en AGI. Om det i själva verket finns en djupgående egenskap inom fysikens lagar – beräkningens universalitet – som i princip säger att allt ett fysiskt objekt kan göra, borde en tillräckligt kraftfull dator för allmänt bruk i princip kunna kopiera/simulera.

Och ändå är det knepigt.

Tack och lov finns det många smarta AI-forskare i fallet (för att inte tala om massor av företags-, regerings- och militärfinansiering som stöder dem), och hittills har de identifierat tre nyckelingredienser som de anser är nödvändiga att lösa för att få en AGI in i vår värld.

Stora data. Det vanligaste tillvägagångssättet för AI-utveckling involverar en teknik som kallas djupinlärning – en specifik typ av maskininlärningssystem som fungerar genom att slurpa upp gigantiska mängder data, krossa nämnda data i ett nätverk av simulerade neuroner (modellerade efter den mänskliga hjärnan) och sedan använda resultaten för att programmera sina egna insikter. För mer information om djupinlärning, läsa.

Till exempel, i 2017, matade Google sin AI med tusentals bilder av katter som dess djupinlärningssystem använde för att inte bara lära sig att identifiera en katt, utan även skilja mellan olika kattraser. Inte långt efter meddelade de den förestående releasen av Google Lens, en ny sökapp som låter användare ta en bild av vad som helst och Google kommer inte bara att berätta vad det är, utan även erbjuda en del användbart kontextuellt innehåll som beskriver det – praktiskt när du reser och du vill lära dig mer om en specifik turistattraktion. Men även här skulle Google Lens inte vara möjligt utan de miljarder bilder som för närvarande är listade i dess bildsökmotor.

Och ändå är denna kombination av stora data och djupinlärning fortfarande inte tillräckligt för att skapa en AGI.

Bättre algoritmer. Under det senaste decenniet har ett Google-dotterbolag och ledare inom AI-området, DeepMind, slagit igenom genom att kombinera styrkorna med djupinlärning med förstärkningsinlärning – en gratis metod för maskininlärning som syftar till att lära AI hur man vidtar åtgärder i nya miljöer för att uppnå ett uppsatt mål.

Tack vare denna hybridtaktik lärde sig DeepMinds premiär-AI, AlphaGo, inte bara sig själv hur man spelar AlphaGo genom att ladda ner reglerna och studera strategierna för mästare mänskliga spelare, utan kunde sedan efter att ha spelat mot sig själv miljontals gånger slå de bästa AlphaGo-spelarna med rörelser och strategier som aldrig tidigare setts i spelet.

På samma sätt innebar DeepMinds Atari-mjukvaruexperiment att ge en AI en kamera för att se en typisk spelskärm, programmera den med möjligheten att mata in spelorder (som joystick-knappar) och ge den det enastående målet att öka sin poäng. Resultatet? Inom några dagar lärde det sig själv hur man spelar och hur man bemästrar dussintals klassiska arkadspel.

Men hur spännande dessa tidiga framgångar än är, det återstår några viktiga utmaningar att lösa.

För det första arbetar AI-forskare med att lära AI ett trick som kallas "chunking" som människors och djurs hjärnor är exceptionellt bra på. Enkelt uttryckt, när du bestämmer dig för att gå ut för att köpa mat, kan du visualisera ditt slutmål (köpa en avokado) och en grov plan för hur du skulle göra det (lämna huset, besöka mataffären, köpa avokadon, återvänd hem). Vad du inte gör är att planera varje andetag, varje steg, alla möjliga händelser på vägen dit. Istället har du ett koncept (klump) i ditt sinne om vart du vill åka och anpassa din resa till vilken situation som helst som dyker upp.

Hur vanligt det än kan kännas för dig är denna förmåga en av de viktigaste fördelarna som mänskliga hjärnor fortfarande har jämfört med AI – det är anpassningsförmågan att sätta ett mål och sträva efter det utan att veta varje detalj i förväg och trots alla hinder eller miljöförändringar vi kan stöta på. Denna färdighet skulle göra det möjligt för AGI:er att lära sig mer effektivt, utan behov av de stora data som nämns ovan.

En annan utmaning är förmågan att inte bara läsa en bok utan förstå meningen eller sammanhanget bakom det. Långsiktigt är målet här att en AI ska läsa en tidningsartikel och kunna svara exakt på en rad frågor om vad den läser, ungefär som att skriva en bokreportage. Den här förmågan kommer att förvandla en AI från helt enkelt en miniräknare som knarrar siffror till en enhet som knackar mening.

Sammantaget kommer ytterligare framsteg till en självlärande algoritm som kan efterlikna den mänskliga hjärnan att spela en nyckelroll i det slutliga skapandet av en AGI, men vid sidan av detta arbete behöver AI-gemenskapen också bättre hårdvara.

Bättre hårdvara. Med de nuvarande tillvägagångssätten som förklaras ovan kommer en AGI att bli möjlig först efter att vi på allvar har ökat den tillgängliga datorkraften för att köra den.

För sammanhanget, om vi tog den mänskliga hjärnans förmåga att tänka och omvandlade den till beräkningstermer, så är den grova uppskattningen av en genomsnittlig människas mentala kapacitet en exaflop, vilket motsvarar 1,000 XNUMX petaflops ('Flop' står för flyttalsoperationer per sekund och mäter beräkningshastigheten).

Som jämförelse, i slutet av 2018, världens mest kraftfulla superdator, Japans AI Bridging Cloud kommer att nynna vid 130 petaflops, långt ifrån en exaflop.

Som beskrivs i vår superdatorer kapitel i vår Datorernas framtid serier arbetar både USA och Kina på att bygga sina egna exaflop-superdatorer till 2022, men även om de är framgångsrika kanske det fortfarande inte räcker.

Dessa superdatorer fungerar på flera dussin megawatt effekt, tar upp flera hundra kvadratmeter utrymme och kostar flera hundra miljoner att bygga. En mänsklig hjärna använder bara 20 watt, passar in i en skalle som är ungefär 50 cm i omkrets, och vi är sju miljarder (2018). Med andra ord, om vi vill göra AGI lika vanliga som människor, måste vi lära oss hur vi skapar dem mycket mer ekonomiskt.

För detta ändamål börjar AI-forskare överväga att driva framtida AI:er med kvantdatorer. Beskrivs mer i detalj i kvantdatorer kapitel i vår Future of Computers-serie, fungerar dessa datorer på ett fundamentalt annorlunda sätt än de datorer vi har byggt under det senaste halvseklet. När den väl har fulländats på 2030-talet kommer en enda kvantdator att räkna ut alla superdatorer som för närvarande är i drift 2018, globalt sett. De kommer också att vara mycket mindre och använda mycket mindre energi än nuvarande superdatorer.

Hur skulle en artificiell allmän intelligens vara överlägsen en människa?

Låt oss anta att varje utmaning som listas ovan blir klar, att AI-forskare lyckas skapa den första AGI. Hur kommer ett AGI-sinne att vara annorlunda än vårt eget?

För att svara på den här typen av frågor måste vi klassificera AGI-hjärnor i tre kategorier, de som lever i en robotkropp (Data från Star Trek), de som har en fysisk form men är anslutna trådlöst till internet/molnet (Agent Smith från Matrisen) och de utan fysisk form som lever helt i en dator eller online (Samantha från Här).

Till att börja med kommer AGI:er inuti en robotkropp isolerad från nätet att konkurrera i paritet med mänskliga sinnen, men med utvalda fördelar:

Minne: Beroende på utformningen av AGI:s robotform kommer deras korttidsminne och minne av nyckelinformation definitivt att vara överlägsen människor. Men i slutet av dagen finns det en fysisk gräns för hur mycket hårddiskutrymme du kan packa in i roboten, förutsatt att vi designar dem för att se ut som människor. Av denna anledning kommer AGIs långtidsminne att agera mycket som människors, och aktivt glömma information och minnen som anses onödiga för dess framtida funktion (för att frigöra "diskutrymme").
Hastighet: Neuronernas prestanda inuti den mänskliga hjärnan maxar till ungefär 200 hertz, medan moderna mikroprocessorer körs på gigahertznivå, så miljontals gånger snabbare än neuroner. Detta innebär jämfört med människor, framtida AGI:er kommer att bearbeta information och fatta beslut snabbare än människor. Tänk på att detta inte nödvändigtvis betyder att denna AGI kommer att fatta smartare eller mer korrekta beslut än människor, bara att de kan komma till slutsatser snabbare.
Prestanda: Enkelt uttryckt blir den mänskliga hjärnan trött om den arbetar för länge utan vila eller sömn, och när den gör det försämras dess minne och förmåga att lära och resonera. Under tiden, för AGI:er, förutsatt att de laddas upp (elektricitet) regelbundet, kommer de inte att ha den svagheten.
Uppgraderingsbarhet: För en människa kan det ta veckor av övning att lära sig en ny vana, att lära sig en ny färdighet kan ta månader och att lära sig ett nytt yrke kan ta år. För en AGI kommer de att ha förmågan att lära sig både genom erfarenhet (som människor) och genom direkt datauppladdning, liknande hur du regelbundet uppdaterar din dators OS. Dessa uppdateringar kan gälla kunskapsuppgraderingar (nya färdigheter) eller prestandauppgraderingar till AGI:s fysiska form.

Låt oss sedan titta på AGI:er som har en fysisk form, men som också är anslutna trådlöst till internet/molnet. Skillnaderna vi kan se med denna nivå jämfört med icke-anslutna AGI:er inkluderar:

Minne: Dessa AGI:er kommer att ha alla kortsiktiga fördelar som den tidigare AGI-klassen har, förutom att de också kommer att dra nytta av perfekt långtidsminne eftersom de kan ladda upp dessa minnen till molnet för att komma åt när det behövs. Uppenbarligen kommer det här minnet inte att vara tillgängligt i områden med låg anslutning, men det kommer att bli mindre bekymmersamt under 2020- och 2030-talen när mer av världen kommer online. Läs mer i kapitel ett av vår Internets framtid serien.
Hastighet: Beroende på vilken typ av hinder denna AGI möter kan de komma åt molnets större datorkraft för att hjälpa dem att lösa det.
Prestanda: Ingen skillnad jämfört med oanslutna AGI:er.
Uppgraderingsbarhet: Den enda skillnaden mellan denna AGI när det gäller uppgraderingsbarhet är att de kan komma åt uppgraderingar i realtid, trådlöst, istället för att behöva besöka och ansluta till en uppgraderingsdepå.
Kollektiv: Människor blev jordens dominerande art inte för att vi var det största eller starkaste djuret, utan för att vi lärde oss hur man kommunicerar och samarbetar på olika sätt för att uppnå kollektiva mål, från att jaga en ullmammut till att bygga den internationella rymdstationen. Ett team av AGI:er skulle ta detta samarbete till nästa nivå. Med tanke på alla kognitiva fördelar som listas ovan och sedan kombinera det med förmågan att kommunicera trådlöst, både personligen och över långa avstånd, skulle ett framtida AGI-team/hive-sinne teoretiskt kunna tackla projekt mycket mer effektivt än ett team av människor.

Slutligen är den sista typen av AGI versionen utan fysisk form, en som fungerar inuti en dator och har tillgång till den fulla datorkraften och onlineresurser som dess skapare förser den med. I sci-fi-shower och böcker tar dessa AGI vanligtvis formen av virtuella expertassistenter/vänner eller ett rymdskepps äckliga operativsystem. Men jämfört med de andra två kategorierna av AGI kommer denna AI att skilja sig åt på följande sätt;

Hastighet: Obegränsad (eller åtminstone till gränserna för hårdvaran den har tillgång till).
Minne: Obegränsat
Prestanda: Ökad beslutsfattande kvalitet tack vare dess tillgång till superdatorcenter.
Uppgraderingsbarhet: Absolut, i realtid och med ett obegränsat urval av kognitiva uppgraderingar. Naturligtvis, eftersom den här AGI-kategorin inte har en fysisk robotform, kommer den inte att behöva de fysiska uppgraderingarna som är tillgängliga om inte dessa uppgraderingar är till superdatorerna som den arbetar i.
Kollektiv: I likhet med den tidigare AGI-kategorin kommer denna kroppslösa AGI att samarbeta effektivt med sina AGI-kollegor. Men med tanke på dess mer direkta tillgång till obegränsad datorkraft och tillgång till onlineresurser, kommer dessa AGI vanligtvis att ta ledande roller i ett övergripande AGI-kollektiv.

När kommer mänskligheten att skapa den första artificiella allmänna intelligensen?

Det finns inget fastställt datum för när AI-forskaren tror att de kommer att uppfinna en legitim AGI. Men en 2013 undersökning av 550 av världens främsta AI-forskare, utförda av ledande AI-forskningstänkare Nick Bostrom och Vincent C. Müller, räknade ut åsiktsintervallet till tre möjliga år:

Median för optimistiskt år (10 % sannolikhet): 2022
Realistiskt medianår (50 % sannolikhet): 2040
Median för pessimistiskt år (90 % sannolikhet): 2075

Hur exakta dessa prognoser är spelar egentligen ingen roll. Vad som spelar roll är att den stora majoriteten av AI-forskarsamhället tror att vi kommer att uppfinna en AGI inom vår livstid och relativt tidigt under detta århundrade.

Hur att skapa en artificiell allmän intelligens kommer att förändra mänskligheten

Vi utforskar inverkan av dessa nya AI i detalj under hela det sista kapitlet i den här serien. Som sagt, för det här kapitlet kommer vi att säga att skapandet av en AGI kommer att vara mycket lik den samhälleliga reaktion vi kommer att uppleva om människor skulle finna liv på Mars.

Ett läger kommer inte att förstå betydelsen och kommer att fortsätta tro att forskare gör en stor sak om att skapa ännu en kraftfullare dator.

Ett annat läger, troligen bestående av ludditer och religiöst sinnade individer, kommer att frukta denna AGI, och tycka att det är en styggelse att den kommer att försöka utrota mänskligheten SkyNet-liknande. Detta läger kommer aktivt att förespråka att radera/förstöra AGI i alla deras former.

Å andra sidan kommer det tredje lägret att se denna skapelse som en modern andlig händelse. På alla sätt som betyder något kommer denna AGI att vara en ny livsform, en som tänker annorlunda än vi gör och vars mål är annorlunda än våra egna. När skapandet av en AGI tillkännages kommer människor inte längre att dela jorden med bara djur, utan också tillsammans med en ny klass av konstgjorda varelser vars intelligens är i nivå med eller överlägsen vår egen.

Det fjärde lägret kommer att omfatta affärsintressen som kommer att undersöka hur de kan använda AGI:er för att tillgodose olika affärsbehov, som att fylla luckor på arbetsmarknaden och påskynda utvecklingen av nya varor och tjänster.

Därefter har vi representanter från alla regeringsnivåer som kommer att snubbla över sig själva och försöka förstå hur man reglerar AGI:er. Det här är den nivå där alla moraliserande och filosofiska debatter kommer att hamna i spetsen, särskilt kring huruvida man ska behandla dessa AGI:er som egendom eller som personer.

Och slutligen kommer det sista lägret att vara militära och nationella säkerhetsorgan. I sanning, det finns en god chans att det offentliga tillkännagivandet av den första AGI kan försenas med månader till år på grund av enbart detta läger. Varför? Eftersom uppfinningen av en AGI på kort sikt kommer att leda till skapandet av en artificiell superintelligens (ASI), en som kommer att representera ett massivt geopolitiskt hot och en möjlighet som vida överträffar uppfinningen av kärnvapenbomben.

Av denna anledning kommer de kommande kapitlen att fokusera helt på ämnet ASI och om mänskligheten kommer att överleva efter dess uppfinning.

(Alltför dramatiskt sätt att avsluta ett kapitel? Du betcha.)