Quantumrun

VAIZDO KREDITAS: Quantumrun

Ar dirbtinis superintelektas sunaikins žmoniją? Dirbtinio intelekto ateitis P4

David Tal, leidėjas, futuristas
@DavidTalWrites
"LinkedIn

Pirmadienis, 11 30 2020 - 10:35

Yra tam tikrų išradimų, kuriuos tautos imasi. Tai išradimai, kur viskas priklauso nuo to, ar būti pirmam, o kas mažiau gali reikšti strateginę ir mirtiną grėsmę tautos išlikimui.

Šie istoriją apibrėžiantys išradimai atsiranda nedažnai, tačiau kai jie atsiranda, pasaulis sustoja ir nuspėjama ateitis tampa miglota.

Paskutinis toks išradimas atsirado blogiausio Antrojo pasaulinio karo metu. Kol naciai įsitvirtino visuose senojo pasaulio frontuose, naujajame pasaulyje, ypač slaptoje armijos bazėje už Los Alamoso, sąjungininkai sunkiai dirbo kurdami ginklą, kad sustabdytų visus ginklus.

Iš pradžių projektas buvo nedidelis, bet vėliau jame dirbo 130,000 23 žmonių iš JAV, JK ir Kanados, įskaitant daugelį tuo metu didžiausių pasaulio mąstytojų. Kodiniu pavadinimu Manheteno projektas ir neribotas biudžetas – maždaug 2018 milijardai dolerių XNUMX m. – šiai žmonių išradingumo armijai galiausiai pavyko sukurti pirmąją branduolinę bombą. Neilgai trukus Antrasis pasaulinis karas baigėsi dviem atominiais sprogimais.

Šie branduoliniai ginklai pradėjo atominį amžių, pristatė visiškai naują energijos šaltinį ir suteikė žmonijai galimybę susinaikinti per kelias minutes – ko mes išvengėme, nepaisant Šaltojo karo.

Dirbtinio superintelekto (ASI) sukūrimas yra dar vienas istorijos išradimas, kurio galia (tiek teigiama, tiek destruktyvi) gerokai pranoksta branduolinę bombą.

Paskutiniame „Future of Artificial Intelligence“ serijos skyriuje ištyrėme, kas yra ASI ir kaip mokslininkai planuoja vieną dieną jį sukurti. Šiame skyriuje apžvelgsime, kokios organizacijos vadovauja dirbtinio intelekto (DI) tyrimams, ko ASI norės, kai įgis į žmogų panašią sąmonę, ir kaip jis gali kelti grėsmę žmonijai, jei bus netinkamai valdomas arba jei jis bus paveiktas nelabai gražūs režimai.

Kas stengiasi sukurti dirbtinį superintelektą?

Atsižvelgiant į tai, koks reikšmingas ASI sukūrimas bus žmonijos istorijai ir kokį didelį pranašumą jis duos savo kūrėjui, neturėtų būti stebina, kad daugelis grupių netiesiogiai dirba prie šio projekto.

(Netiesiogiai turime omenyje dirbtinio intelekto tyrimus, kurie galiausiai sukurs pirmąjį dirbtinis bendrasis intelektas (AGI), netrukus po to bus sukurta pirmoji ASI.)

Pirmiausia, kalbant apie antraštes, aiškūs pažangių AI tyrimų lyderiai yra aukščiausios technologijų įmonės JAV ir Kinijoje. JAV tai apima tokias įmones kaip „Google“, IBM ir „Microsoft“, o Kinijoje – tokias įmones kaip „Tencent“, „Baidu“ ir „Alibaba“. Tačiau kadangi dirbtinio intelekto tyrimai yra santykinai pigūs, palyginti su kažko fizinio, pavyzdžiui, geresnio branduolinio reaktoriaus, kūrimu, tai taip pat yra sritis, kurioje gali konkuruoti ir mažesnės organizacijos, pavyzdžiui, universitetai, startuoliai ir... šešėlinės organizacijos (pasinaudokite savo Bondo piktadarių vaizduote tą).

Tačiau užkulisiuose tikrąjį AI tyrimų postūmį daro vyriausybės ir jų kariuomenė. Ekonominis ir karinis prizas pirmajam sukūrus ASI yra per didelis (apibūdintas toliau), kad rizikuotumėte atsilikti. O pavojai likti paskutiniu yra nepriimtini, bent jau tam tikriems režimams.

Atsižvelgiant į šiuos veiksnius, santykinai mažas dirbtinio intelekto tyrimų sąnaudas, begalinį komercinį pažangaus AI pritaikymą ir ekonominį bei karinį pranašumą būti pirmiesiems, sukūrusiems ASI, daugelis AI tyrinėtojų mano, kad ASI sukūrimas yra neišvengiamas.

Kada sukursime dirbtinį superintelektą

Skyriuje apie AGI paminėjome, kaip geriausių AI tyrinėtojų apklausa manė, kad pirmąjį AGI sukursime optimistiškai iki 2022 m., realiai iki 2040 m. ir pesimistiškai iki 2075 m.

Ir mūsų paskutinis skyrius, mes apibūdinome, kaip ASI kūrimas paprastai yra rezultatas, kai AGI nurodoma be galo tobulėti ir suteikiama išteklių bei laisvės tai daryti.

Dėl šios priežasties, nors AGI išradimas dar gali užtrukti iki kelių dešimtmečių, ASI sukūrimas gali užtrukti tik keletą metų.

Šis punktas yra panašus į „kompiuterio iškyšos“ sąvoką, pasiūlytą popierius, kurį parašė pagrindiniai AI mąstytojai Luke'as Muehlhauseris ir Nickas Bostromas. Iš esmės, jei AGI sukūrimas ir toliau atsiliks nuo dabartinės pažangos skaičiavimo pajėgumų srityje, pagrįsta Moore'o dėsniu, tada, kai mokslininkai išras AGI, bus tiek pigios skaičiavimo galios, kad AGI turės pakankamai pajėgumų. ji turi greitai peršokti į ASI lygį.

Kitaip tariant, kai pagaliau perskaitysite antraštes, skelbiančias, kad kažkokia technologijų įmonė išrado pirmąjį tikrąjį AGI, netrukus po to laukite pranešimo apie pirmąjį ASI.

Dirbtinio superintelekto galvoje?

Gerai, mes nustatėme, kad daug didelių žaidėjų, turinčių gilias kišenes, tyrinėja AI. Ir tada, kai bus išrastas pirmasis AGI, pamatysime, kad pasaulio vyriausybės (kariškiai) pradės šviesti pastangas sukurti ASI, kad būtų pirmosios, laimėjusios pasaulines AI (ASI) ginklavimosi varžybas.

Bet kaip ji pagalvos, kai bus sukurta ši ASI? Ko tai norės?

Draugiškas šuo, rūpestingas dramblys, mielas robotas – kaip žmonės, mes turime įprotį bandyti susieti su daiktais juos antropologuodami, ty pritaikydami daiktams ir gyvūnams žmogiškąsias savybes. Štai kodėl pirmoji natūrali prielaida, kurią žmonės daro galvodami apie ASI, yra ta, kad kai jis kažkaip įgis sąmonę, jis mąstys ir elgsis panašiai kaip mes.

Na, nebūtinai.

Suvokimas. Pirma, dauguma linkę pamiršti, kad suvokimas yra santykinis. Mūsų mąstymą lemia aplinka, patirtis ir ypač biologija. Pirmiausia paaiškino trečias skyrius mūsų Žmogaus evoliucijos ateitis seriją, apsvarstykite mūsų smegenų pavyzdį:

Tai mūsų smegenys, kurios padeda mums suprasti mus supantį pasaulį. Ir tai daro ne plūduriuojant virš mūsų galvų, dairantis aplinkui ir valdant mus Xbox valdikliu; jis tai daro įstrigęs dėžutėje (mūsų gumbeliuose) ir apdorodamas bet kokią informaciją, kurią duoda iš mūsų jutimo organų – akių, nosies, ausų ir kt.

Tačiau kaip kurtieji ar aklieji gyvena daug trumpesnį gyvenimą, palyginti su darbingais žmonėmis, dėl ribotų jų negalios suvokimo pasaulį, tą patį galima pasakyti apie visus žmones dėl mūsų pagrindinių ribotumo. jutimo organų rinkinys.

Apsvarstykite tai: mūsų akys suvokia mažiau nei dešimt trilijonų visų šviesos bangų. Mes nematome gama spindulių. Rentgeno spindulių nematome. Mes nematome ultravioletinių spindulių. Ir nepradėkite nuo infraraudonųjų spindulių, mikrobangų krosnelių ir radijo bangų!

Nejuokaudami, įsivaizduokite, koks būtų jūsų gyvenimas, kaip galėtumėte suvokti pasaulį, kaip kitaip galėtų veikti jūsų protas, jei matytumėte daugiau, nei šiuo metu leidžia jūsų akys. Taip pat įsivaizduokite, kaip suvoktumėte pasaulį, jei jūsų uoslė prilygtų šuns uoslei arba klausa prilygtų dramblio.

Kaip žmonės, mes iš esmės matome pasaulį pro akutę, ir tai atsispindi protuose, kuriuos evoliucionavome, kad suprastume tą ribotą suvokimą.

Tuo tarpu pirmasis ASI gims superkompiuterio viduje. Vietoj organų, įvestis, kurią jis pasieks, apima milžiniškus duomenų rinkinius, galbūt (tikriausiai) net prieigą prie paties interneto. Tyrėjai galėtų suteikti jam prieigą prie viso miesto vaizdo stebėjimo kamerų ir mikrofonų, bepiločių orlaivių ir palydovų jutimo duomenų ir net fizinės roboto kūno ar kūnų formos.

Kaip galite įsivaizduoti, protas, gimęs superkompiuteryje, turintis tiesioginę prieigą prie interneto, milijonus elektroninių akių ir ausų bei daugybę kitų pažangių jutiklių, ne tik mąstys kitaip nei mes, bet ir protas, kuris gali turėti prasmę. visų tų juslinių įėjimų turėtų būti be galo pranašesni už mus. Tai protas, kuris bus visiškai svetimas mūsų pačių ir bet kuriai kitai gyvybės formai planetoje.

Tikslai. Kitas dalykas, kurį žmonės mano, yra tai, kad kai ASI pasiekia tam tikrą superintelekto lygį, jis iš karto suvoks norą sugalvoti savo tikslus ir uždavinius. Bet tai taip pat nebūtinai yra tiesa.

Daugelis AI tyrinėtojų mano, kad ASI superintelektas ir jo tikslai yra „stačiakampiai“, tai yra, nepaisant to, koks protingas jis bus, ASI tikslai išliks tokie patys.

Taigi, nesvarbu, ar dirbtinis intelektas iš pradžių buvo sukurtas siekiant sukurti geresnį vystyklą, maksimaliai padidinti grąžą akcijų rinkoje ar strategiškai nugalėti priešą mūšio lauke, pasiekus ASI lygį, pradinis tikslas nepasikeis; pasikeis ASI efektyvumas siekiant šių tikslų.

Tačiau čia slypi pavojus. Jei ASI optimizuoja save, kad pasiektų konkretų tikslą, geriau būkime tikri, kad jis optimizuoja tikslą, kuris atitinka žmonijos tikslus. Priešingu atveju rezultatai gali būti mirtini.

Ar dirbtinis superintelektas kelia egzistencinę riziką žmonijai?

O kas, jei ASI bus paleistas pasaulyje? Jei ji optimizuos, kad dominuotų vertybinių popierių rinkoje arba užtikrintų JAV karinę viršenybę, ar ASI nesilaikys tų konkrečių tikslų?

Galbūt.

Iki šiol aptarėme, kaip ASI bus apsėstas (-ų) tikslo (-ų), kuris (-i) jam iš pradžių buvo priskirtas, ir nežmoniškai kompetentingas siekti tų tikslų. Akivaizdu, kad racionalus agentas sieks savo tikslų pačiomis veiksmingiausiomis priemonėmis, nebent bus pateikta priežastis to nedaryti.

Pavyzdžiui, racionalus agentas iškels daugybę papildomų tikslų (ty tikslų, instrumentinių tikslų, žingsnių), kurie padės jam pasiekti galutinį tikslą. Žmonėms mūsų pagrindinis pasąmonės tikslas yra dauginimasis, jūsų genų perdavimas (ty netiesioginis nemirtingumas). Tam tikslui dažnai gali būti įtraukti:

Išgyventi, gauti maisto ir vandens, augti dideliam ir stipriam, išmokti apsiginti ar investuoti į įvairias apsaugos formas ir pan.
Pritraukti draugą, sportuoti, ugdyti patrauklią asmenybę, stilingai rengtis ir pan.
Suteikti palikuonių, įgyti išsilavinimą, gauti gerai apmokamą darbą, pirkti viduriniosios klasės gyvenimo reikmenis ir pan.

Daugeliui iš mūsų, siekdami visų šių ir daugelio kitų tikslų, pasislėpsime, tikėdamiesi, kad galiausiai pasieksime šį galutinį reprodukcijos tikslą.

Tačiau jei iškiltų grėsmė šiam galutiniam tikslui ar net bet kuriam iš svarbesnių tikslų, daugelis iš mūsų imtųsi gynybinių veiksmų už savo moralinio komforto zonų ribų, įskaitant sukčiavimą, vagystę ar net žudymą.

Be to, gyvūnų karalystėje, nepaisydami žmogaus moralės ribų, daugelis gyvūnų negalvotų apie tai, kaip nužudyti ką nors, kas kelia grėsmę jiems patiems ar jų palikuonims.

Būsimas ASI nebus kitoks.

Tačiau vietoj palikuonių ASI sutelks dėmesį į pradinį tikslą, kuriam buvo sukurtas, ir, siekdamas šio tikslo, jei randa tam tikrą žmonių grupę ar net visą žmoniją, tai yra kliūtis siekiant savo tikslų. , tada ... jis priims racionalų sprendimą.

(Čia galite prijungti bet kurį su dirbtiniu intelektu susijusį pasaulio pabaigos scenarijų, apie kurį skaitėte savo mėgstamoje mokslinės fantastikos knygoje ar filme.)

Tai yra blogiausias scenarijus, dėl kurio AI tyrėjai tikrai nerimauja. ASI nesielgs iš neapykantos ar blogio, o tik abejingumo, kaip ir statybininkų brigada negalvos buldozeriu nuversti skruzdžių kalnelį, statydama naują daugiabučio namo bokštą.

Paraštės užrašas. Šiuo metu kai kuriems iš jūsų gali kilti klausimas: „Ar AI tyrėjai negali tiesiog redaguoti pagrindinių ASI tikslų po to, kai nustatome, kad ji veikia?

Ne visai.

Kai ASI subręsta, bet koks bandymas redaguoti pradinį (-ius) tikslą (-us) gali būti vertinamas kaip grėsmė ir tokia, nuo kurios apsiginti reikės ekstremalių veiksmų. Remiantis visu ankstesniu žmogaus reprodukcijos pavyzdžiu, panašu, kad vagis grasino pavogti kūdikį iš besilaukiančios motinos įsčių – galite būti tikri, kad mama imsis kraštutinių priemonių, kad apsaugotų savo vaiką.

Vėlgi, mes kalbame ne apie skaičiuotuvą, o apie „gyvą“ būtybę, kuri vieną dieną taps daug protingesnė už visus planetos žmones kartu paėmus.

Nežinomasis

Už pasakos Pandoros dėžutė yra mažiau žinoma tiesa, kurią žmonės dažnai pamiršta: dėžutės atidarymas yra neišvengiamas, jei ne tu pats, o kas nors kitas. Uždraustos žinios pernelyg vilioja, kad liktų užrakintos amžinai.

Štai kodėl bandymas pasiekti visuotinį susitarimą sustabdyti visus AI tyrimus, kurie gali sukelti ASI, yra beprasmiška – tiesiog per daug organizacijų, dirbančių su šia technologija tiek oficialiai, tiek šešėlyje.

Galų gale mes neturime supratimo, ką šis naujas subjektas, šis ASI reikš visuomenei, technologijoms, politikai, taikai ir karui. Mes, žmonės, iš naujo išrasime ugnį, o kur šis kūrinys mus veda, visiškai nežinoma.

Grįžtant prie pirmojo šios serijos skyriaus, vienas dalykas, kurį tikrai žinome, yra tai, kad intelektas yra galia. Intelektas yra kontrolė. Žmonės gali atsitiktinai aplankyti pavojingiausius pasaulio gyvūnus savo vietiniuose zoologijos soduose ne todėl, kad esame fiziškai stipresni už šiuos gyvūnus, o todėl, kad esame žymiai protingesni.

Atsižvelgdami į galimus ASI, naudojančių savo didžiulį intelektą, kad galėtų imtis veiksmų, galinčių tiesiogiai ar netyčia kelti grėsmę žmonijos išlikimui, sukeltų grėsmių, turime bent jau pabandyti sukurti apsaugos priemones, kurios leistų žmonėms likti vairuotojo vietoje. sėdynė -tai yra kito skyriaus tema.