Quantumrun

KREDIT OBRAZU: Quantumrun

Budou lidé žít mírumilovně v budoucnosti ovládané umělými inteligencemi? - Budoucnost umělé inteligence P6

David Tal, vydavatel, futurista
@DavidTalWrites
LinkedIn

Út, 09/15/2020 - 13:10

Pokud jde o lidstvo, řekněme, že nemáme nejlepší výsledky, pokud jde o soužití s „tím druhým“. Ať už jde o genocidu Židů v Německu nebo Tutsiů ve Rwandě, zotročování Afričanů západními národy nebo otroky z jihovýchodní Asie. teď práce v zemích Blízkého východu v Perském zálivu, nebo dokonce současná perzekuce, kterou zažívají Mexičané v USA nebo syrští uprchlíci ve vybraných zemích EU. Celkově náš instinktivní strach z těch, které vnímáme jako jiné než my, nás může vést k činům, které buď ovládnou, nebo (v extrémních případech) zničí ty, kterých se bojíme.

Můžeme očekávat něco jiného, když se umělá inteligence stane skutečně lidskou?

Budeme žít v budoucnosti, kde budeme koexistovat s nezávislými AI-roboty, jak je vidět v sáze Star Wars, nebo budeme místo toho pronásledovat a zotročovat AI bytosti, jak je znázorněno v franšíze Bladerunner? (Pokud jste neviděli ani jednu z těchto stálic pop kultury, na co čekáte?)

To jsou otázky této závěrečné kapitoly Budoucnost umělé inteligence série doufá, že odpoví. Záleží na tom, protože pokud jsou prognózy předních výzkumníků umělé inteligence správné, pak v polovině století budeme my lidé sdílet náš svět s množstvím různých bytostí umělé inteligence – takže bude lepší, když vymyslíme způsob, jak s nimi pokojně žít.

Mohou někdy lidé konkurovat umělým inteligencím?

Věřte nebo ne, můžeme.

Průměrný člověk (v roce 2018) je již lepší než ta nejpokročilejší AI. Jak je uvedeno v našem úvodní kapitola, dnešní umělé úzké inteligence (ANI) jsou mnohem lepší než lidé konkrétní úkoly, pro které byli navrženi, ale beznadějní, když byli požádáni, aby převzali úkol mimo tento design. Na druhou stranu lidé, stejně jako většina ostatních zvířat na planetě, vynikají v naší přizpůsobivosti k dosažení cílů v širokém spektru prostředí – a definice inteligence, kterou obhajují počítačoví vědci Marcus Hutter a Shane Legg.

Tato vlastnost univerzální přizpůsobivosti se nezdá jako velký problém, ale vyžaduje schopnost odhadnout překážku k dosažení cíle, naplánovat experiment k překonání této překážky, podniknout akci k provedení experimentu, poučit se z výsledků a pak pokračovat. jít za cílem. Veškerý život na planetě instinktivně provádí tuto adaptační smyčku tisíckrát až miliónkrát každý den, a dokud se AI nenaučí dělat totéž, zůstanou neživé pracovní nástroje.

Ale vím, co si myslíte: Celá tato série o budoucnosti umělé inteligence předpovídá, že pokud bude dostatek času, entity umělé inteligence se nakonec stanou stejně chytrými jako lidé a krátce poté budou mnohem chytřejšími než lidé.

Tato kapitola tuto možnost nezpochybňuje.

Ale past, do které se mnozí komentátoři dostali, je myslet si, že protože evoluce trvala miliony let, než vytvořila biologické mozky, bude beznadějně překonána, jakmile umělé inteligence dosáhnou bodu, kdy budou moci vylepšovat svůj vlastní hardware a software v cyklech kratších jako roky, měsíce. , možná i dny.

Naštěstí v evoluci zbývá nějaký boj, částečně díky nedávným pokrokům v genetickém inženýrství.

Poprvé v našem seriálu na budoucnost evoluce lidstva, zjistili genetici 69 samostatných genů které ovlivňují inteligenci, ale dohromady ovlivňují IQ jen o méně než osm procent. To znamená, že mohou existovat stovky nebo tisíce genů, které ovlivňují inteligenci, a budeme je muset nejen všechny objevit, ale také se naučit, jak s nimi předvídatelně manipulovat, než budeme moci vůbec uvažovat o manipulaci s plodem. DNA.

Ale v polovině 2040. let XNUMX. století pole genomiky dospěje do bodu, kdy bude možné genom plodu důkladně zmapovat a úpravy jeho DNA lze počítačově simulovat, aby bylo možné přesně předvídat, jak změny v jeho genomu ovlivní jeho budoucí fyzické, emocionální. a nejdůležitější pro tuto diskusi, její inteligenční atributy.

Jinými slovy, v polovině století, kdy většina výzkumníků AI věří, že AI dosáhne a možná předčí inteligenci na lidské úrovni, získáme schopnost geneticky modifikovat celé generace lidských nemluvňat, aby byli výrazně chytřejší než generace předcházející. jim.

Míříme do budoucnosti, kde superinteligentní lidé budou žít vedle superinteligentní AI.

Dopad světa plného super inteligentních lidí

Takže o jak chytrém se tady bavíme? Pro kontext, IQ Alberta Einsteina a Stephena Hawkinga dosáhla přibližně 160. Jakmile odhalíme tajemství genomických markerů, které kontrolují inteligenci, mohli bychom potenciálně vidět lidi narozené s IQ přesahujícím 1,000 XNUMX.

To je důležité, protože mysli jako Einstein a Hawking pomohly podnítit vědecké objevy, které nyní lemují základní kámen našeho moderního světa. Například jen nepatrný zlomek světové populace rozumí fyzice, ale významné procento světového HDP závisí na jejích zjištěních – technologie jako chytrý telefon, moderní telekomunikační systém (internet) a GPS nemohou existovat bez kvantové mechaniky. .

Vzhledem k tomuto dopadu, jaký druh pokroku by lidstvo mohlo zažít, kdybychom zrodili celou generaci géniů? Stovky milionů Einsteinových?

Odpověď je nemožné uhodnout, protože svět nikdy neviděl takovou koncentraci super géniů.

Jací tito lidé vůbec budou?

Pro ochutnání si představte případ nejchytřejšího zaznamenaného člověka, William James Sidis (1898-1944), který měl IQ asi 250. Ve dvou letech uměl číst. Ve věku šesti let mluvil osmi jazyky. Na Harvardskou univerzitu byl přijat v 11. A Sidis je jen ze čtvrtiny tak chytrý, jak se biologové, jak se domnívají, mohou jednoho dne stát lidmi pomocí genetických úprav.

(Poznámka na okraj: mluvíme zde pouze o inteligenci, ani se nedotýkáme genetických úprav, které z nás mohou učinit fyzicky nadčlověka. Čtěte více zde.)

Ve skutečnosti je velmi pravděpodobné, že se lidé a umělá inteligence mohou společně vyvíjet vytvořením jakési smyčky pozitivní zpětné vazby, kde pokročilá umělá inteligence pomáhá genetikům zvládnout lidský genom, aby vytvořili stále chytřejší lidi, lidi, kteří pak budou pracovat na vytvoření stále chytřejší umělé inteligence, a tak na. Takže ano, přesně jak vědci AI předpovídají, Země by mohla velmi dobře zažít explozi inteligence v polovině století, ale na základě naší dosavadní diskuse budou lidé (nejen AI) z této revoluce těžit.

Kyborgové mezi námi

Spravedlivou kritikou tohoto argumentu o superinteligentních lidech je, že i kdybychom zvládli genetické úpravy do poloviny století, trvalo by dalších 20 až 30 let, než tato nová generace lidí dospěje do bodu, kdy může přispět významným pokrokem k našemu společnost a vyrovnat intelektuální pole vedle AI. Neposkytlo by toto zpoždění AI významný náskok proti lidstvu, pokud by se rozhodly proměnit „zlo“?

To je důvod, proč jako most mezi dnešními lidmi a zítřejšími nadlidi, počínaje 2030. lety XNUMX. století, uvidíme počátky nové třídy lidí: kyborga, hybrida člověka a stroje.

(Abych byl spravedlivý, v závislosti na tom, jak definujete kyborgy, technicky již existují – konkrétně lidé s protetickými končetinami v důsledku válečných zranění, nehod nebo genetických defektů při narození. Abychom však zůstali zaměřeni na kontext této kapitoly, Zaměříme se na protetiku, která má rozšířit naši mysl a inteligenci.)

Poprvé diskutované v našem Budoucnost počítačů V současné době výzkumníci vyvíjejí obor bioelektroniky nazvaný Brain-Computer Interface (BCI). Zahrnuje použití zařízení na skenování mozku nebo implantátu ke sledování vašich mozkových vln, jejich převodu na kód a následnému přiřazení příkazů k ovládání čehokoli, co je řízeno počítačem.

Jsme stále v začátcích, ale díky použití BCI jsou nyní amputovaní testování robotických končetin ovládané přímo jejich myslí, namísto senzorů připojených k jejich pahýlu. Stejně tak jsou na tom nyní lidé s těžkým postižením (např. lidé s kvadruplegií). pomocí BCI k řízení svých motorizovaných invalidních vozíků a manipulovat s robotickými pažemi. Ale pomáhat osobám po amputaci a osobám s postižením vést nezávislejší život není rozsah toho, čeho bude BCI schopen.

To, co bude ve 2030. letech 2040. století vypadat jako helma nebo čelenka do vlasů, nakonec ustoupí mozkovým implantátům (konec XNUMX. let XNUMX. století), které propojí naši mysl s digitálním cloudem (internetem). Nakonec bude tato mozková protéza fungovat jako třetí hemisféra pro naši mysl – takže zatímco naše levá a pravá hemisféra řídí naši kreativitu a logické schopnosti, tato nová digitální hemisféra s podporou cloudu usnadní téměř okamžitý přístup k informacím a zlepší kognitivní funkce. atributy, kde lidé často zaostávají za svými protějšky AI, jmenovitě rychlost, opakování a přesnost.

A i když tyto mozkové implantáty nezbytně nezvýší naši inteligenci, učiní nás mnohem schopnějšími a nezávislejšími, stejně jako to dnes dělají naše chytré telefony.

Budoucnost plná různých inteligencí

Všechny tyto řeči o AI, kyborzích a superinteligentních lidech otevírají další bod k zamyšlení: Budoucnost bude svědkem mnohem bohatší rozmanitosti inteligencí, než jsme kdy viděli v historii lidstva nebo dokonce Země.

Přemýšlejte o tom, před koncem tohoto století mluvíme o budoucím světě plném:

Hmyzí inteligence
Zvířecí inteligence
Lidské inteligence
Kyberneticky vylepšené lidské inteligence
Umělá obecná inteligence (AGI)
Umělé superinteligence (ASI)
Lidské super inteligence
Kyberneticky vylepšené lidské super inteligence
Virtuální hybridní mysli člověka a umělé inteligence
Několik dalších mezi kategoriemi, které čtenářům doporučujeme, aby je vymysleli a sdíleli v sekci komentářů.

Jinými slovy, náš svět je již domovem rozmanité škály druhů, z nichž každý má své vlastní jedinečné typy inteligence, ale budoucnost bude svědkem ještě větší rozmanitosti inteligencí, které tentokrát rozšíří vyšší konec kognitivního žebříčku. Takže stejně jako se dnešní generace učí sdílet náš svět s hmyzem a zvířaty, kteří přispívají k našemu ekosystému, budoucí generace se budou muset naučit komunikovat a spolupracovat s širokou rozmanitostí inteligencí, které si dnes sotva dokážeme představit.

Historie nám samozřejmě říká, že „sdílení“ nikdy nebylo pro lidi silnou stránkou. V důsledku lidské expanze vyhynuly stovky až tisíce druhů, jen stovky méně vyspělých civilizací zmizely pod dobýváním expandujících říší.

Tyto tragédie jsou způsobeny lidskou potřebou zdrojů (jídlo, voda, suroviny atd.) a částečně strachem a nedůvěrou mezi cizími civilizacemi nebo národy. Jinými slovy, tragédie minulosti a současnosti jsou způsobeny důvody starými jako civilizace sama a se zavedením všech těchto nových tříd inteligence se jen zhorší.

Kulturní dopad světa plného různých inteligencí

Úžas a děs jsou dvě emoce, které nejlépe shrnují protichůdné emoce, které budou lidé zažívat, jakmile všechny tyto nové typy inteligence vstoupí do světa.

„Překvapte“ lidskou vynalézavost použitou k vytvoření všech těchto nových lidských a AI inteligencí a možností, které mohou vytvořit. A pak „děs“ z nedostatku porozumění a obeznámenosti současných generací lidí s budoucími generacemi těchto „vylepšených“ bytostí.

Takže stejně jako je svět zvířat zcela mimo chápání průměrného hmyzu a svět lidí je zcela mimo chápání průměrného zvířete, svět AI a dokonce i superinteligentních lidí bude daleko za hranicemi toho, co dnešní průměrný člověk bude schopen pochopit.

A i když budoucí generace budou moci komunikovat s těmito novými vyššími inteligencemi, není to tak, že bychom měli mnoho společného. V kapitolách představujících AGI a ASI jsme vysvětlili, proč by bylo chybou uvažovat o AI inteligenci jako o lidské inteligenci.

Stručně řečeno, instinktivní emoce, které řídí lidské myšlení, jsou evolučním biologickým dědictvím několika tisíciletí lidských generací, které aktivně vyhledávaly zdroje, partnerské vztahy, sociální vazby, přežití atd. Budoucí umělá inteligence nebude mít žádnou z těchto evolučních zátěží. Místo toho budou mít tyto digitální inteligence cíle, způsoby myšlení a hodnotové systémy, které jsou pro ně zcela jedinečné.

Stejně tak, jako se moderní lidé naučili potlačovat aspekty svých přirozených lidských tužeb díky našemu intelektu (např. omezujeme své sexuální partnery v oddaných vztazích; riskujeme své životy kvůli cizím lidem kvůli vymyšleným konceptům cti a ctnosti atd.) Budoucí nadlidé mohou tyto prvotní instinkty zcela překonat. Pokud je to možné, pak skutečně máme co do činění s mimozemšťany, nejen s novou třídou lidí.

Bude mezi budoucími superrasami a námi ostatními mír?

Mír pochází z důvěry a důvěra pochází ze známosti a sdílených cílů. Známost můžeme sundat ze stolu, protože jsme již diskutovali o tom, že nevylepšení lidé s těmito superintelekty mají kognitivně málo společného.

V jednom scénáři bude tato inteligenční exploze reprezentovat vzestup zcela nové formy nerovnosti, takové, která vytvoří sociální třídy založené na inteligenci, z nichž bude pro lidi z nižších tříd téměř nemožné povstat. A stejně jako dnes rozšiřující se ekonomická propast mezi bohatými a chudými vyvolává nepokoje, propast mezi různými třídami/populacemi inteligence by mohla vyvolat dostatek strachu a zášti, které by se pak mohly proměnit v různé formy pronásledování nebo totální války. Pro ostatní čtenáře komiksů vám to může připomenout klasický příběh o pronásledování z franšízy X-men od Marvelu.

Alternativní scénář spočívá v tom, že tyto budoucí superinteligence prostě vymyslí způsoby, jak emocionálně zmanipulovat jednodušší masy, aby je přijaly do své společnosti – nebo alespoň do bodu, který se vyhýbá veškerému násilí.

Jaký scénář tedy zvítězí?

S největší pravděpodobností uvidíme, že se něco odehraje uprostřed. Na začátku této zpravodajské revoluce uvidíme obvyklé 'technopanický“, odborník na technologické právo a politiku, Adam Thierer, popisuje obvyklý společenský vzorec:

Generační rozdíly, které vedou ke strachu z nového, zejména ty, které narušují sociální zvyklosti nebo ruší pracovní místa (přečtěte si o dopadu AI na naše Budoucnost práce série);
"Hypernostalgie" pro staré dobré časy, které ve skutečnosti nikdy nebyly tak dobré;
Pobídka pro reportéry a odborníky, aby šířili strach z nových technologií a trendů výměnou za kliknutí, zhlédnutí a prodej reklam;
Zvláštní zájmy se navzájem tlačí o vládní peníze nebo akci v závislosti na tom, jak je jejich skupina ovlivněna touto novou technologií;
Elitářské postoje akademických a kulturních kritiků, kteří se obávají nových technologií, které si masová veřejnost osvojuje;
Lidé promítající morální a kulturní debaty včerejška a dneška do nových technologií zítřka.

Ale jako každý nový pokrok si na něj lidé zvyknou. Ještě důležitější je, že ačkoli dva druhy nemusí smýšlet stejně, mír lze nalézt prostřednictvím vzájemně sdílených zájmů nebo cílů.

Tato nová umělá inteligence může například vytvářet nové technologie a systémy pro zlepšení našich životů. A na oplátku bude financování a vládní podpora i nadále celkově prosazovat zájmy AI, zejména díky aktivní konkurenci mezi čínskými a americkými programy AI.

Podobně, pokud jde o vytváření nadlidí, náboženské frakce v mnoha zemích budou odolávat trendu geneticky manipulovat se svými dětmi. Praktičnost a národní zájem však tuto bariéru postupně prolomí. V prvním případě budou rodiče v pokušení používat technologii genetických úprav, aby zajistili, že se jejich děti narodí nemocné a bez defektů, ale tímto počátečním cílem je sklon k invazivnějšímu genetickému vylepšení. Stejně tak, pokud Čína začne geneticky posilovat celé generace jejich populace, USA budou mít strategický imperativ, aby následovaly, nebo riskovaly, že o dvě desetiletí později trvale zaostanou – a stejně tak zbytek světa.

Jakkoli intenzivně zní celá tato kapitola, musíme mít na paměti, že to vše bude postupný proces. Učiní náš svět velmi odlišným a velmi zvláštním. Ale zvykneme si na to a stane se to naší budoucností.