Quantumrun

BILLEDKREDIT: Quantumrun

Hvordan den første Artificial General Intelligence vil ændre samfundet: Future of Artificial Intelligence P2

David Tal, udgiver, fremtidsforsker
@DavidTalWrites
LinkedIn

Tue, 09 / 15 / 2020 - 13: 08

Vi har bygget pyramider. Vi lærte at udnytte elektricitet. Vi forstår, hvordan vores univers blev dannet efter Big Bang (for det meste). Og selvfølgelig, klichéeksemplet, har vi sat en mand på månen. Alligevel, på trods af alle disse præstationer, forbliver den menneskelige hjerne langt uden for forståelsen af moderne videnskab og er som standard det mest komplekse objekt i det kendte univers – eller i det mindste vores forståelse af det.

I betragtning af denne virkelighed burde det ikke være helt chokerende, at vi endnu ikke har bygget en kunstig intelligens (AI) på lige fod med mennesker. En AI som Data (Star Trek), Rachael (Blade Runner) og David (Prometheus) eller ikke-humanoid AI som Samantha (Her) og TARS (Interstellar), disse er alle eksempler på den næste store milepæl i AI-udvikling: kunstig generel intelligens (AGI, nogle gange også omtalt som HLMI eller Human Level Machine Intelligence).

Med andre ord, udfordringen AI-forskere står over for er: Hvordan kan vi opbygge et kunstigt sind, der kan sammenlignes med vores eget, når vi ikke engang har en fuld forståelse af, hvordan vores eget sind fungerer?

Vi vil udforske dette spørgsmål sammen med, hvordan mennesker vil klare sig i forhold til fremtidige AGI'er, og endelig, hvordan samfundet vil ændre sig dagen efter, at den første AGI bliver annonceret til verden.

Hvad er en kunstig generel intelligens?

Design en AI, der nemt kan slå de toprangerede spillere i skak, Jeopardy og Go (Deep Blue, Watsonog AlphaGO henholdsvis). Design en AI, der kan give dig svar på ethvert spørgsmål, foreslå varer, du måske vil købe, eller administrer en flåde af rideshare-taxaer – hele virksomheder for flere milliarder dollar er bygget op omkring dem (Google, Amazon, Uber). Selv en AI, der kan køre dig fra den ene side af landet til den anden ... jamen, vi arbejder på det.

Men bed en AI om at læse en børnebog og forstå indholdet, betydningen eller moralen, den forsøger at lære, eller bed en AI fortælle forskellen mellem et billede af en kat og en zebra, og du vil ende med at forårsage mere end et par kortslutninger.

Naturen brugte millioner af år på at udvikle en computerenhed (hjerner), der udmærker sig ved at bearbejde, forstå, lære og derefter handle på nye situationer og i nye miljøer. Sammenlign det med det sidste halve århundredes computervidenskab, der fokuserede på at skabe computerenheder, der var skræddersyet til de enestående opgaver, de var designet til.

Med andre ord er menneske-computeren en generalist, mens den kunstige computer er en specialist.

Målet med at skabe en AGI er at skabe en AI, der kan tænke og lære mere som et menneske, gennem erfaring snarere end gennem direkte programmering.

I den virkelige verden ville dette betyde, at en fremtidig AGI lærer at læse, skrive og fortælle en vittighed eller gå, løbe og cykle stort set på egen hånd ved hjælp af sin egen erfaring i verden (ved at bruge en hvilken som helst krop eller sanseorganer/-anordninger vi giver det), og gennem sin egen interaktion andre AI og andre mennesker.

Hvad det vil tage at opbygge en kunstig generel intelligens

Selvom det er teknisk vanskeligt, skal det være muligt at oprette en AGI. Hvis faktisk, der er en dybt holdt egenskab inden for fysikkens love – beregningens universalitet – der grundlæggende siger alt, hvad et fysisk objekt kan gøre, så burde en tilstrækkeligt kraftig computer til generelle formål i princippet være i stand til at kopiere/simulere.

Og alligevel er det tricky.

Heldigvis er der en masse kloge AI-forskere i sagen (for ikke at nævne masser af virksomheds-, regerings- og militærfinansiering, der støtter dem), og indtil videre har de identificeret tre nøgleingredienser, som de føler er nødvendige at løse for at bringe en AGI ind i vores verden.

Big data. Den mest almindelige tilgang til AI-udvikling involverer en teknik kaldet deep learning - en specifik type maskinlæringssystem, der fungerer ved at opslæmme enorme mængder data, knuse disse data i et netværk af simulerede neuroner (modelleret efter den menneskelige hjerne) og derefter bruge resultaterne til at programmere sine egne indsigter. For flere detaljer om dyb læring, læse dette.

For eksempel: i 2017, fodrede Google sin AI med tusindvis af billeder af katte, som dets dybe læringssystem brugte til ikke kun at lære at identificere en kat, men også at skelne mellem forskellige katteracer. Ikke længe efter annoncerede de den forestående udgivelse af Google Lens, en ny søgeapp, der lader brugere tage et billede af hvad som helst, og Google vil ikke kun fortælle dig, hvad det er, men også tilbyde noget nyttigt kontekstuelt indhold, der beskriver det – praktisk, når du rejser, og du vil lære mere om en specifik turistattraktion. Men også her ville Google Lens ikke være mulig uden de milliarder af billeder, der i øjeblikket er opført i deres billedsøgemaskine.

Og alligevel er denne kombination af big data og deep learning stadig ikke nok til at skabe en AGI.

Bedre algoritmer. I løbet af det sidste årti har et Google-datterselskab og leder inden for AI-området, DeepMind, slået igennem ved at kombinere styrkerne ved deep learning med forstærkende læring – en gratis maskinlæringstilgang, der har til formål at lære AI, hvordan man tager handlinger i nye miljøer for at opnå et fastsat mål.

Takket være denne hybride taktik lærte DeepMinds førsteklasses AI, AlphaGo, ikke kun sig selv, hvordan man spiller AlphaGo ved at downloade reglerne og studere strategierne for mestre menneskelige spillere, men efter at have spillet mod sig selv millioner af gange var han i stand til at slå de bedste AlphaGo-spillere. ved at bruge bevægelser og strategier, som aldrig før er set i spillet.

Ligeledes involverede DeepMinds Atari-softwareeksperiment at give en AI et kamera til at se en typisk spilskærm, programmere den med evnen til at indtaste spilordrer (som joystick-knapper) og give den det enestående mål at øge sin score. Resultatet? Inden for få dage lærte det sig selv, hvordan man spiller, og hvordan man mestrer snesevis af klassiske arkadespil.

Men hvor spændende disse tidlige succeser end er, er der stadig nogle vigtige udfordringer at løse.

For det første arbejder AI-forskere på at lære AI et trick kaldet 'chunking', som menneske- og dyrehjerner er usædvanligt gode til. Kort sagt, når du beslutter dig for at gå ud for at købe dagligvarer, er du i stand til at visualisere dit slutmål (købe en avocado) og en grov plan for, hvordan du vil gøre det (forlad huset, besøg købmanden, køb avocadoen, vend hjem). Hvad du ikke gør, er at planlægge hvert åndedrag, hvert skridt, alle mulige hændelser på din vej dertil. I stedet har du et koncept (chunk) i dit sind om, hvor du vil hen og tilpasse din rejse til den situation, der opstår.

Hvor almindelig det end kan føles for dig, er denne evne en af de vigtigste fordele, menneskelige hjerner stadig har i forhold til AI – det er tilpasningsevnen til at sætte et mål og forfølge det uden at kende alle detaljer på forhånd og på trods af enhver forhindring eller miljøændringer, vi kan støde på. Denne færdighed ville gøre det muligt for AGI'er at lære mere effektivt uden behov for de store data, der er nævnt ovenfor.

En anden udfordring er evnen til ikke bare at læse en bog, men forstå meningen eller konteksten bag det. På lang sigt er målet her, at en AI kan læse en avisartikel og være i stand til præcist at besvare en række spørgsmål om, hvad den læser, ligesom at skrive en bograpport. Denne evne vil transformere en AI fra blot en lommeregner, der knuser tal, til en enhed, der knuser mening.

Samlet set vil yderligere fremskridt til en selvlærende algoritme, der kan efterligne den menneskelige hjerne, spille en nøglerolle i den eventuelle skabelse af en AGI, men sideløbende med dette arbejde har AI-fællesskabet også brug for bedre hardware.

Bedre hardware. Ved at bruge de nuværende fremgangsmåder, der er forklaret ovenfor, bliver en AGI først mulig, efter at vi seriøst har øget den tilgængelige computerkraft til at køre den.

For kontekst, hvis vi tog den menneskelige hjernes evne til at tænke og konverterede den til beregningsmæssige termer, så er det groft estimat af et gennemsnitligt menneskes mentale kapacitet en exaflop, hvilket svarer til 1,000 petaflops ('Flop' står for floating-point operations pr. sekund og måler beregningshastigheden).

Til sammenligning, ved udgangen af 2018, verdens mest kraftfulde supercomputer, Japans AI Bridging Cloud vil nynne ved 130 petaflops, langt fra én exaflop.

Som beskrevet i vores supercomputere kapitel i vores Computernes fremtid serien arbejder både USA og Kina på at bygge deres egne exaflop-supercomputere inden 2022, men selvom de lykkes, er det måske stadig ikke nok.

Disse supercomputere fungerer på flere dusin megawatt strøm, fylder flere hundrede kvadratmeter og koster flere hundrede millioner at bygge. En menneskelig hjerne bruger kun 20 watt strøm, passer ind i et kranium på cirka 50 cm i omkreds, og der er syv milliarder af os (2018). Med andre ord, hvis vi vil gøre AGI'er lige så almindelige som mennesker, bliver vi nødt til at lære at skabe dem langt mere økonomisk.

Til det formål begynder AI-forskere at overveje at drive fremtidige AI'er med kvantecomputere. Beskrevet mere detaljeret i kvantecomputere kapitel i vores Future of Computers-serie, fungerer disse computere på en fundamentalt anderledes måde end de computere, vi har bygget i det sidste halve århundrede. Når den er perfektioneret i 2030'erne, vil en enkelt kvantecomputer udberegne hver supercomputer, der i øjeblikket opererer i 2018, globalt set. De vil også være meget mindre og bruge langt mindre energi end nuværende supercomputere.

Hvordan ville en kunstig generel intelligens være et menneske overlegen?

Lad os antage, at hver udfordring anført ovenfor bliver fundet ud af, at AI-forskere finder succes med at skabe den første AGI. Hvordan vil et AGI-sind være anderledes end vores eget?

For at besvare denne slags spørgsmål er vi nødt til at klassificere AGI sind i tre kategorier, dem der lever i en robotkrop (data fra Star Trek), dem, der har en fysisk form, men er forbundet trådløst til internettet/skyen (Agent Smith fra Matrix) og dem uden en fysisk form, der udelukkende lever i en computer eller online (Samantha fra Hendes).

Til at starte med vil AGI'er inde i en robotkrop isoleret fra nettet konkurrere på lige fod med menneskets sind, men med udvalgte fordele:

Hukommelse: Afhængigt af designet af AGI's robotform, vil deres korttidshukommelse og hukommelse af nøgleinformation absolut være mennesker overlegen. Men i slutningen af dagen er der en fysisk grænse for, hvor meget harddiskplads du kan pakke ind i robotten, forudsat at vi designer dem til at ligne mennesker. Af denne grund vil AGI'ers langtidshukommelse fungere meget som menneskers og aktivt glemme information og minder, som anses for unødvendige for dets fremtidige funktion (for at frigøre 'diskplads').
Hastighed: Ydeevnen af neuroner inde i den menneskelige hjerne maksimalt ud på omkring 200 hertz, mens moderne mikroprocessorer kører på gigahertz-niveau, så millioner af gange hurtigere end neuroner. Dette betyder sammenlignet med mennesker, at fremtidige AGI'er vil behandle information og træffe beslutninger hurtigere end mennesker. Husk, det betyder ikke nødvendigvis, at denne AGI vil træffe smartere eller mere korrekte beslutninger end mennesker, bare at de kan komme til konklusioner hurtigere.
Ydeevne: Enkelt sagt bliver den menneskelige hjerne træt, hvis den opererer for længe uden hvile eller søvn, og når den gør det, bliver dens hukommelse og dens evne til at lære og fornuft svækket. I mellemtiden, for AGI'er, forudsat at de bliver genopladet (elektricitet) regelmæssigt, vil de ikke have den svaghed.
Opgraderbarhed: For et menneske kan det tage ugers træning at lære en ny vane, at lære en ny færdighed kan tage måneder, og at lære en ny profession kan tage år. For en AGI vil de have evnen til at lære både ved erfaring (som mennesker) og ved direkte dataupload, svarende til hvordan du regelmæssigt opdaterer din computers OS. Disse opdateringer kan gælde videnopgraderinger (nye færdigheder) eller ydeevneopgraderinger til AGI's fysiske form.

Lad os dernæst se på AGI'er, der har en fysisk form, men som også er forbundet trådløst til internettet/skyen. Forskellene vi kan se med dette niveau sammenlignet med ikke-forbundne AGI'er inkluderer:

Hukommelse: Disse AGI'er vil have alle de kortsigtede fordele, som den tidligere AGI-klasse har, bortset fra at de også vil drage fordel af perfekt langtidshukommelse, da de kan uploade disse minder til skyen for at få adgang, når det er nødvendigt. Naturligvis vil denne hukommelse ikke være tilgængelig i områder med lav forbindelse, men det vil blive mindre til bekymring i løbet af 2020'erne og 2030'erne, når mere af verden kommer online. Læs mere i Kapitel et vores Internettets fremtid serien.
Hastighed: Afhængigt af den type forhindring, denne AGI står over for, kan de få adgang til skyens større computerkraft for at hjælpe dem med at løse den.
Ydeevne: Ingen forskel sammenlignet med ikke-forbundne AGI'er.
Opgraderingsmuligheder: Den eneste forskel mellem denne AGI, hvad angår opgraderingsmuligheder, er, at de kan få adgang til opgraderinger i realtid, trådløst, i stedet for at skulle besøge og tilslutte et opgraderingsdepot.
Kollektiv: Mennesker blev Jordens dominerende art, ikke fordi vi var det største eller stærkeste dyr, men fordi vi lærte at kommunikere og samarbejde på forskellige måder for at nå kollektive mål, fra at jage en ulden mammut til at bygge den internationale rumstation. Et team af AGI'er ville tage dette samarbejde til næste niveau. I betragtning af alle de kognitive fordele, der er nævnt ovenfor, og derefter kombinere det med evnen til at kommunikere trådløst, både personligt og på tværs af lange afstande, kunne et fremtidigt AGI-team/hive-sind teoretisk tackle projekter langt mere effektivt end et team af mennesker.

Endelig er den sidste type AGI versionen uden en fysisk form, en som fungerer inde i en computer og har adgang til den fulde computerkraft og onlineressourcer, som dens skabere giver den. I sci-fi-shows og bøger tager disse AGI'er normalt form af ekspert virtuelle assistenter/venner eller et rumskibs spunky operativsystem. Men sammenlignet med de to andre kategorier af AGI, vil denne AI adskille sig på følgende måder;

Hastighed: Ubegrænset (eller i det mindste til grænserne for den hardware, den har adgang til).
Hukommelse: Ubegrænset
Ydeevne: Forøgelse i beslutningstagningskvalitet takket være dens adgang til supercomputercentre.
Opgraderingsmuligheder: Absolut, i realtid og med et ubegrænset udvalg af kognitive opgraderinger. Da denne AGI-kategori ikke har en fysisk robotform, vil den naturligvis ikke have behov for de tilgængelige fysiske opgraderinger, medmindre disse opgraderinger er til de supercomputere, den opererer i.
Kollektiv: I lighed med den tidligere AGI-kategori vil denne kropsløse AGI samarbejde effektivt med sine AGI-kolleger. Men givet deres mere direkte adgang til ubegrænset computerkraft og adgang til onlineressourcer, vil disse AGI'er normalt tage lederroller i et samlet AGI-kollektiv.

Hvornår vil menneskeheden skabe den første kunstige generelle intelligens?

Der er ingen fastsat dato for, hvornår AI-forskersamfundet mener, at de vil opfinde en legitim AGI. Men en 2013 undersøgelse af 550 af verdens førende AI-forskere, udført af førende AI-forskningstænkere Nick Bostrom og Vincent C. Müller, udgjorde gennemsnittet af rækken af meninger til tre mulige år:

Median optimistisk år (10 % sandsynlighed): 2022
Median realistisk år (50 % sandsynlighed): 2040
Median pessimistisk år (90 % sandsynlighed): 2075

Hvor præcise disse prognoser er, er ligegyldigt. Det, der betyder noget, er, at langt størstedelen af AI-forskersamfundet tror, at vi vil opfinde en AGI inden for vores levetid og relativt tidligt i dette århundrede.

Hvordan at skabe en kunstig generel intelligens vil ændre menneskeheden

Vi undersøger virkningen af disse nye AI i detaljer gennem hele det allersidste kapitel i denne serie. Når det er sagt, vil vi for dette kapitel sige, at oprettelsen af en AGI vil være meget lig den samfundsmæssige reaktion, vi vil opleve, hvis mennesker finder liv på Mars.

Én lejr vil ikke forstå betydningen og vil blive ved med at tro, at videnskabsmænd gør et stort nummer ved at skabe endnu en mere kraftfuld computer.

En anden lejr, som sandsynligvis består af ludditter og religiøst indstillede individer, vil frygte denne AGI, og mene, at det er en vederstyggelighed, at den vil forsøge at udrydde menneskeheden SkyNet-stil. Denne lejr vil aktivt gå ind for at slette/ødelægge AGI'er i alle deres former.

På den anden side vil den tredje lejr se denne skabelse som en moderne spirituel begivenhed. På alle de måder, der betyder noget, vil denne AGI være en ny livsform, en der tænker anderledes end vi gør, og hvis mål er anderledes end vores egne. Når først oprettelsen af en AGI er annonceret, vil mennesker ikke længere dele Jorden med kun dyr, men også sammen med en ny klasse af kunstige væsener, hvis intelligens er på niveau med eller overlegen vores egen.

Den fjerde lejr vil omfatte erhvervsinteresser, som vil undersøge, hvordan de kan bruge AGI'er til at imødekomme forskellige forretningsbehov, såsom at udfylde huller på arbejdsmarkedet og fremskynde udviklingen af nye varer og tjenester.

Dernæst har vi repræsentanter fra alle regeringsniveauer, som vil snuble over sig selv og prøve at finde ud af, hvordan man regulerer AGI'er. Dette er det niveau, hvor alle moraliserende og filosofiske debatter vil komme til hovedet, specifikt omkring hvorvidt man skal behandle disse AGI'er som ejendom eller som personer.

Og endelig vil den sidste lejr være de militære og nationale sikkerhedsorganer. I sandhed er der en god chance for, at den offentlige annoncering af den første AGI kan blive forsinket med måneder til år alene på grund af denne lejr. Hvorfor? Fordi opfindelsen af en AGI på kort tid vil føre til skabelsen af en kunstig superintelligens (ASI), en der vil repræsentere en massiv geopolitisk trussel og en mulighed, der langt overgår opfindelsen af atombomben.

Af denne grund vil de næste par kapitler fokusere udelukkende på emnet ASI'er og om menneskeheden vil overleve efter dens opfindelse.

(Alt for dramatisk måde at afslutte et kapitel på?