Kwantumrun

BEELDKREDIET: Kwantumrun

Zullen mensen vreedzaam leven in een toekomst die wordt gedomineerd door kunstmatige intelligenties? - Toekomst van kunstmatige intelligentie P6

David Tal, uitgever, futurist
@DavidTalWrites
LinkedIn

Tue, 09 / 15 / 2020 - 13: 10

Als het op menselijkheid aankomt, laten we maar zeggen dat we niet het beste trackrecord hebben als het gaat om samenleven met 'de ander'. Of het nu gaat om de genocide op de Joden in Duitsland of de Tutsi's in Rwanda, de slavernij van Afrikanen door westerse landen of de Zuidoost-Aziatische contractarbeiders nu werken in de Golfstaten van het Midden-Oosten, of zelfs de huidige vervolging die Mexicanen in de VS ervaren of Syrische vluchtelingen in bepaalde EU-landen. Al met al kan onze instinctieve angst voor degenen die we als anders beschouwen dan wij, ons ertoe brengen acties te ondernemen die degenen die we vrezen controleren of (in extreme gevallen) vernietigen.

Kunnen we iets anders verwachten als kunstmatige intelligentie echt mensachtig wordt?

Leven we in een toekomst waarin we samenleven met onafhankelijke AI-robotwezens, zoals te zien is in de Star Wars-saga, of zullen we in plaats daarvan AI-wezens vervolgen en tot slaaf maken zoals afgebeeld in de Bladerunner-franchise? (Als je geen van deze popcultuurstapels hebt gezien, waar wacht je dan nog op?)

Dit zijn de vragen in dit slothoofdstuk van de Toekomst van kunstmatige intelligentie serie hoopt te beantwoorden. Het is belangrijk, want als de voorspellingen van vooraanstaande AI-onderzoekers kloppen, zullen wij mensen tegen het midden van de eeuw onze wereld delen met een overvloed aan diverse AI-wezens - dus we kunnen maar beter een manier vinden om vreedzaam naast hen te leven.

Kunnen mensen ooit concurreren met kunstmatige intelligentie?

Geloof het of niet, we kunnen het.

De gemiddelde mens (in 2018) is al superieur aan zelfs de meest geavanceerde AI. Zoals beschreven in onze openingshoofdstuk, zijn de huidige kunstmatige smalle intelligenties (ANI's) enorm beter dan mensen in de specifiek taken waarvoor ze zijn ontworpen, maar hopeloos wanneer ze worden gevraagd een taak op zich te nemen buiten dat ontwerp. Mensen daarentegen blinken, net als de meeste andere dieren op de planeet, uit in ons aanpassingsvermogen om doelen na te streven in een breed scala van omgevingen - een definitie van intelligentie bepleit door computerwetenschappers Marcus Hutter en Shane Legg.

Deze eigenschap van universeel aanpassingsvermogen lijkt niet zo belangrijk, maar het vereist het vermogen om een obstakel voor een doel te beoordelen, een experiment te plannen om dat obstakel te overwinnen, een actie ondernemen om het experiment uit te voeren, van de resultaten te leren en dan verder te gaan om het doel na te streven. Al het leven op de planeet voert deze aanpassingslus instinctief duizenden tot miljoenen keren per dag uit, en totdat AI kan leren hetzelfde te doen, blijven ze levenloze werkinstrumenten.

Maar ik weet wat je denkt: deze hele serie over de toekomst van kunstmatige-intelligentievoorspellingen die, als er genoeg tijd is, AI-entiteiten uiteindelijk net zo slim zullen worden als mensen, en kort daarna veel slimmer dan mensen.

Dit hoofdstuk zal die mogelijkheid niet betwisten.

Maar de val waar veel commentatoren in trappen is dat de evolutie er miljoenen jaren over heeft gedaan om biologische hersenen te produceren, en dat het hopeloos zal worden overtroffen zodra AI's een punt bereiken waarop ze hun eigen hardware en software kunnen verbeteren in cycli van slechts jaren, maanden , misschien zelfs dagen.

Gelukkig is er nog wat strijd in de evolutie, deels dankzij de recente vooruitgang in genetische manipulatie.

Voor het eerst behandeld in onze serie over de toekomst van de menselijke evolutie, hebben genetici geïdentificeerd 69 afzonderlijke genen die van invloed zijn op intelligentie, maar samen beïnvloeden ze het IQ slechts met minder dan acht procent. Dit betekent dat er honderden of duizenden genen kunnen zijn die van invloed zijn op intelligentie, en we zullen ze niet alleen allemaal moeten ontdekken, maar ook moeten leren hoe we ze allemaal voorspelbaar kunnen manipuleren voordat we zelfs maar kunnen overwegen om met een foetus te knoeien. DNA.

Maar tegen het midden van de jaren 2040 zal het veld van de genomica volwassen zijn tot een punt waarop het genoom van een foetus grondig in kaart kan worden gebracht, en bewerkingen aan zijn DNA met de computer kunnen worden gesimuleerd om nauwkeurig te voorspellen hoe veranderingen in het genoom van invloed zullen zijn op zijn toekomstige fysieke, emotionele , en het belangrijkste voor deze discussie, zijn intelligentieattributen.

Met andere woorden, tegen het midden van de eeuw, wanneer de meeste AI-onderzoekers geloven dat AI intelligentie op menselijk niveau zal bereiken en mogelijk zelfs overtreffen, zullen we de mogelijkheid krijgen om hele generaties menselijke baby's genetisch te modificeren om aanzienlijk slimmer te zijn dan de generaties die eraan voorafgingen. hen.

We gaan een toekomst tegemoet waarin superintelligente mensen naast superintelligente AI zullen leven.

Impact van een wereld vol superintelligente mensen

Dus, over hoe slim hebben we het hier? Voor de context: de IQ's van Albert Einstein en Stephen Hawking scoorden rond de 160. Zodra we de geheimen achter de genomische markers die intelligentie beheersen, hebben ontgrendeld, kunnen we mogelijk mensen zien geboren met IQ's van meer dan 1,000.

Dit is belangrijk omdat geesten als Einstein en Hawking hebben bijgedragen tot de wetenschappelijke doorbraken die nu de basis vormen van onze moderne wereld. Slechts een klein deel van de wereldbevolking begrijpt bijvoorbeeld iets van natuurkunde, maar een aanzienlijk percentage van het BBP van de wereld is afhankelijk van de bevindingen ervan - technologieën zoals de smartphone, het moderne telecommunicatiesysteem (internet) en de GPS kunnen niet bestaan zonder kwantummechanica .

Gezien deze impact, wat voor soort vooruitgang zou de mensheid kunnen ervaren als we een hele generatie genieën zouden baren? Honderden miljoenen Einsteins?

Het antwoord is onmogelijk te raden, aangezien de wereld nog nooit zo'n concentratie van supergenieën heeft gezien.

Hoe zullen deze mensen zelfs zijn?

Voor een voorproefje, kijk eens naar het geval van de slimste geregistreerde mens, William James Sidis (1898-1944), die een IQ had van ongeveer 250. Hij kon al lezen toen hij twee was. Op zesjarige leeftijd sprak hij acht talen. Hij werd tegen 11 uur toegelaten tot de Harvard University. En Sidis is slechts een kwart zo slim als wat biologen denken dat mensen ooit kunnen worden met genetische bewerking.

(Kanttekening: we hebben het hier alleen over intelligentie, we hebben het niet eens over genetische bewerking die ons fysiek bovenmenselijk kan maken. Lees hier meer.)

Het is zelfs heel goed mogelijk dat mensen en AI samen kunnen evolueren door een soort positieve feedbacklus te creëren, waarbij geavanceerde AI genetici helpt het menselijk genoom onder de knie te krijgen om steeds slimmere mensen te creëren, mensen die vervolgens zullen werken om steeds slimmere AI te creëren, en dus Aan. Dus ja, net zoals AI-onderzoekers voorspellen, zou de aarde heel goed een intelligentie-explosie kunnen meemaken in het midden van de eeuw, maar op basis van onze discussie tot nu toe zullen mensen (niet alleen AI) profiteren van die revolutie.

Cyborgs onder ons

Een terechte kritiek op dit argument over superintelligente mensen is dat zelfs als we genetische bewerking tegen het midden van de eeuw onder de knie zouden krijgen, het nog 20 tot 30 jaar zou duren voordat deze nieuwe generatie mensen volwassen zou zijn tot een punt waarop ze significante vooruitgang kunnen bijdragen aan onze samenleving en egaliseert het intellectuele speelveld naast AI. Zou deze vertraging AI's niet een aanzienlijke voorsprong geven tegen de mensheid als ze zouden besluiten 'slecht' te worden?

Dit is de reden waarom we, als een brug tussen de mensen van vandaag en de supermensen van morgen, vanaf de jaren 2030 het begin zullen zien van een nieuwe klasse van mensen: de cyborg, een hybride van mens en machine.

(Om eerlijk te zijn, afhankelijk van hoe je cyborgs definieert, bestaan ze technisch gezien al - met name mensen met prothetische ledematen als gevolg van oorlogswonden, ongelukken of genetische defecten bij de geboorte. Maar om gefocust te blijven op de context van dit hoofdstuk, hebben we zal zich concentreren op protheses die bedoeld zijn om onze geest en intelligentie te vergroten.)

Eerst besproken in onze Toekomst van computers serie, ontwikkelen onderzoekers momenteel een bio-elektronica-veld genaamd Brain-Computer Interface (BCI). Het gaat om het gebruik van een hersenscanapparaat of een implantaat om je hersengolven te volgen, ze om te zetten in code en ze vervolgens te associëren met opdrachten om alles te besturen dat door een computer wordt uitgevoerd.

We staan nog in de kinderschoenen, maar door het gebruik van BCI zijn geamputeerden dat nu robot ledematen testen direct gecontroleerd door hun geest, in plaats van door sensoren die aan hun stronk zijn bevestigd. Evenzo zijn mensen met ernstige handicaps (zoals mensen met quadriplegie) nu BCI gebruiken om hun gemotoriseerde rolstoelen te besturen en robotarmen manipuleren. Maar geamputeerden en personen met een handicap helpen een onafhankelijker leven te leiden, is niet de mate van waartoe BCI in staat zal zijn.

Wat er in de jaren 2030 uit zal zien als een helm of haarband, zal uiteindelijk plaatsmaken voor hersenimplantaten (eind 2040) die onze geest verbinden met de digitale cloud (internet). Uiteindelijk zal deze hersenprothese fungeren als een derde hersenhelft voor onze geest - dus terwijl onze linker- en rechterhersenhelft onze creativiteit en logische vermogens beheren, zal deze nieuwe, door de cloud gevoede, digitale hemisfeer vrijwel onmiddellijke toegang tot informatie vergemakkelijken en de cognitieve vaardigheden verbeteren. attributen waar mensen vaak achterblijven bij hun AI-tegenhangers, namelijk snelheid, herhaling en nauwkeurigheid.

En hoewel deze hersenimplantaten onze intelligentie niet noodzakelijkerwijs een boost zullen geven, zullen ze ons veel capabeler en onafhankelijker maken, net zoals onze smartphones dat tegenwoordig doen.

Een toekomst vol verschillende intelligenties

Al dit gepraat over AI's, cyborgs en superintelligente mensen opent een ander punt om te overwegen: de toekomst zal een veel rijkere diversiteit aan intelligenties zien dan we ooit in de menselijke of zelfs de geschiedenis van de aarde hebben gezien.

Denk er eens over na, voor het einde van deze eeuw hebben we het over een toekomstige wereld vol met:

Insectenintelligentie
Dierlijke intelligenties
Menselijke intelligenties
Cybernetisch verbeterde menselijke intelligenties
Kunstmatige algemene intelligenties (AGI's)
Kunstmatige superintelligenties (ASI's)
Menselijke superintelligenties
Cybernetisch verbeterde menselijke superintelligentie
Virtuele mens-AI hybride geesten
Nog een paar tussenliggende categorieën die we lezers aanmoedigen om te brainstormen en te delen in het commentaargedeelte.

Met andere woorden, onze wereld is al de thuisbasis van een breed scala aan soorten, elk met hun eigen unieke soorten intelligenties, maar de toekomst zal een nog grotere diversiteit aan intelligenties zien, deze keer dat de bovenkant van de cognitieve ladder wordt uitgebreid. Dus net zoals de generatie van vandaag leert onze wereld te delen met de insecten en dieren die bijdragen aan ons ecosysteem, zullen toekomstige generaties moeten leren communiceren en samenwerken met een grote diversiteit aan intelligenties die we ons vandaag nauwelijks kunnen voorstellen.

Natuurlijk leert de geschiedenis ons dat 'delen' nooit een sterk punt is geweest voor mensen. Honderden tot duizenden soorten zijn uitgestorven als gevolg van menselijke expansie, net zijn honderden minder geavanceerde beschavingen verdwenen onder de verovering van groeiende rijken.

Deze tragedies zijn te wijten aan de menselijke behoefte aan hulpbronnen (voedsel, water, grondstoffen, enz.) en gedeeltelijk aan de angst en het wantrouwen tussen buitenlandse beschavingen of volkeren. Met andere woorden, de tragedies van het verleden en van het heden zijn te wijten aan redenen die zo oud zijn als de beschaving zelf, en ze zullen alleen maar erger worden met de introductie van al deze nieuwe klassen van intelligenties.

Culturele impact van een wereld vol verschillende intelligenties

Verwondering en angst zijn de twee emoties die het best de tegenstrijdige emoties kunnen samenvatten die mensen zullen ervaren als al deze nieuwe soorten intelligenties de wereld betreden.

Verbaas je over de menselijke vindingrijkheid die is gebruikt om al deze nieuwe menselijke en AI-intelligenties te creëren, en de mogelijkheden die ze zouden kunnen creëren. En dan 'vrezen' van het gebrek aan begrip en vertrouwdheid die huidige generaties mensen zullen hebben met toekomstige generaties van deze 'verbeterde' wezens.

Dus net zoals de wereld van dieren het bevattingsvermogen van het gemiddelde insect volledig te boven gaat, en de wereld van de mens het bevattingsvermogen van het gemiddelde dier volledig te boven gaat, zal de wereld van AI's en zelfs superintelligente mensen ver buiten het bereik liggen van wat de huidige gemiddelde mens zal kunnen begrijpen.

En hoewel toekomstige generaties in staat zullen zijn om met deze nieuwe hogere intelligenties te communiceren, is het niet zo dat we heel veel gemeen zullen hebben. In de hoofdstukken waarin we AGI's en ASI's introduceren, hebben we uitgelegd waarom het een vergissing zou zijn om AI-intelligenties als menselijke intelligenties te beschouwen.

Kort gezegd, de instinctieve emoties die het menselijk denken aandrijven, zijn de evolutionaire biologische erfenis van verschillende millennia aan menselijke generaties die actief op zoek waren naar hulpbronnen, parende partners, sociale banden, overleving, enz. Toekomstige AI zal die evolutionaire bagage niet hebben. In plaats daarvan zullen deze digitale intelligenties doelen, denkwijzen en waardesystemen hebben die geheel uniek zijn voor henzelf.

Evenzo, net zoals moderne mensen hebben geleerd aspecten van hun natuurlijke menselijke verlangens te onderdrukken dankzij ons intellect (we beperken bijvoorbeeld onze seksuele partners in toegewijde relaties; we riskeren ons leven voor vreemden vanwege denkbeeldige concepten van eer en deugd, enz.) , kunnen toekomstige supermensen deze oerinstincten volledig overwinnen. Als dit mogelijk is, hebben we echt te maken met buitenaardse wezens, niet alleen met een nieuwe klasse mensen.

Zal er vrede zijn tussen de toekomstige superraces en de rest van ons?

Vrede komt van vertrouwen en vertrouwen komt van vertrouwdheid en gedeelde doelen. We kunnen vertrouwdheid van tafel halen, omdat we al hebben besproken hoe niet-verbeterde mensen cognitief weinig gemeen hebben met deze superintellecten.

In één scenario zal deze intelligentie-explosie de opkomst vertegenwoordigen van een geheel nieuwe vorm van ongelijkheid, een die op intelligentie gebaseerde sociale klassen creëert die bijna onmogelijk zullen zijn voor degenen uit de lagere klassen om uit op te stijgen. En net zoals de groeiende economische kloof tussen arm en rijk vandaag voor onrust zorgt, zou de kloof tussen de verschillende klassen/populaties van intelligenties genoeg angst en wrok kunnen opwekken die vervolgens zouden kunnen uitmonden in verschillende vormen van vervolging of totale oorlog. Voor de mede-stripboeklezers die er zijn, kan dit je doen denken aan het klassieke achtergrondverhaal over vervolging uit Marvel's X-men-franchise.

Het alternatieve scenario is dat deze toekomstige superintellecten gewoon manieren zullen bedenken om de eenvoudigere massa emotioneel te manipuleren om hen in hun samenleving te accepteren - of in ieder geval tot een punt dat alle geweld vermijdt.

Dus, welk scenario zal winnen?

Naar alle waarschijnlijkheid zullen we iets zien spelen in het midden. Aan het begin van deze inlichtingenrevolutie zullen we het gebruikelijke zien 'technopanisch',' beschrijft die technologierecht- en beleidsspecialist Adam Thierer als volgt het gebruikelijke sociale patroon:

Generatieverschillen die leiden tot angst voor het nieuwe, vooral die welke sociale zeden ontwrichten of banen elimineren (lees over de impact van AI in onze Future of Work serie);
"Hypernostalgie" voor de goede oude tijd die in werkelijkheid nooit zo goed was;
De stimulans voor verslaggevers en experts om bang te zijn over nieuwe technologie en trends in ruil voor klikken, weergaven en advertentieverkoop;
Speciale belangen die elkaar verdringen voor overheidsgeld of actie, afhankelijk van hoe hun groep wordt beïnvloed door deze nieuwe technologie;
elitaire houding van academische en culturele critici die bang zijn voor nieuwe technologieën die het grote publiek toepast;
Mensen die de morele en culturele debatten van gisteren en vandaag projecteren op de nieuwe technologieën van morgen.

Maar zoals bij elke nieuwe vooruitgang, zullen mensen eraan wennen. Belangrijker is dat, hoewel twee soorten misschien niet hetzelfde denken, vrede kan worden gevonden door wederzijds gedeelde interesses of doelen.

Deze nieuwe AI kan bijvoorbeeld nieuwe technologieën en systemen creëren om ons leven te verbeteren. En in ruil daarvoor zullen financiering en overheidssteun de belangen van AI in het algemeen blijven bevorderen, vooral dankzij de actieve concurrentie tussen Chinese en Amerikaanse AI-programma's.

Evenzo, als het gaat om het creëren van supermensen, zullen religieuze facties in veel landen weerstand bieden aan de trend om genetisch met hun baby's te knoeien. Praktisch en nationaal belang zullen deze barrière echter geleidelijk doorbreken. Voor de eerstgenoemde zullen ouders in de verleiding komen om genetische bewerkingstechnologie te gebruiken om ervoor te zorgen dat hun kinderen ziektevrij en defectvrij worden geboren, maar dat eerste doel is een gladde helling naar meer invasieve genetische verbetering. Evenzo, als China hele generaties van hun bevolking genetisch begint te verbeteren, zullen de VS een strategische noodzaak hebben om dit voorbeeld te volgen of het risico lopen permanent achterop te raken twee decennia later - en dat geldt ook voor de rest van de wereld.

Hoe intens dit hele hoofdstuk ook is, we moeten niet vergeten dat dit allemaal een geleidelijk proces zal zijn. Het zal onze wereld heel anders en heel raar maken. Maar we zullen eraan wennen, en het wordt onze toekomst.