Quantumrun

VAIZDO KREDITAS: Quantumrun

Kaip kursime pirmąjį dirbtinį superintelektą: dirbtinio intelekto ateitis P3

David Tal, leidėjas, futuristas
@DavidTalWrites
"LinkedIn

Antradienis, 09-15-2020 - 13:17

Įsisukus į Antrąjį pasaulinį karą, nacių pajėgos veržėsi per didžiąją dalį Europos. Jie turėjo pažangią ginkluotę, efektyvią karo pramonę, fanatiškai valdomus pėstininkus, bet visų pirma jie turėjo mašiną, pavadintą Enigma. Šis prietaisas leido nacių pajėgoms saugiai bendradarbiauti dideliais atstumais, standartinėmis ryšio linijomis siunčiant vieni kitiems pranešimus su Morzės kodu; tai buvo šifravimo mašina, neįveikiama žmogaus kodų laužytojams.

Laimei, sąjungininkai rado sprendimą. Jiems nebereikėjo žmogaus proto, kad sulaužytų Enigmą. Vietoj to, velionio Alano Turingo išradimu, sąjungininkai sukūrė naują revoliucinį įrankį, pavadintą „ Britų bomba, elektromechaninis prietaisas, pagaliau iššifravęs slaptą nacių kodą ir galiausiai padėjęs jiems laimėti karą.

Ši bomba padėjo pagrindus tam, kas tapo šiuolaikiniu kompiuteriu.

Vykdant Bombe plėtros projektą kartu su Turingu dirbo britų matematikas ir kriptologas IJ Good. Žaidimo pabaigoje jis pamatė, kad šis naujas įrenginys vieną dieną gali sukurti. A 1965 popierius, jis parašė:

„Tegul itin intelektuali mašina gali būti apibrėžiama kaip mašina, kuri gali gerokai pranokti bet kurio žmogaus intelektualinę veiklą, kad ir koks protingas jis būtų. Kadangi mašinų projektavimas yra viena iš šių intelektualių veiklų, itin intelektuali mašina galėtų sukurti dar geresnes mašinas; tada neabejotinai įvyktų „žvalgybos sprogimas“, o žmogaus intelektas liktų toli už nugaros... Taigi pirmoji itin intelektuali mašina yra paskutinis išradimas, kurį žmogui kada nors reikia padaryti, su sąlyga, kad mašina yra pakankamai paklusni ir mums pasakys, kaip tai padaryti. kad tai būtų kontroliuojama“.

Pirmojo dirbtinio superintelekto sukūrimas

Iki šiol savo serijoje „Future of Artificial Intelligence“ apibrėžėme tris plačias dirbtinio intelekto (DI) kategorijas. dirbtinis siaurasis intelektas (ANI) į dirbtinis bendrasis intelektas (AGI), tačiau šiame serijos skyriuje daugiausia dėmesio skirsime paskutinei kategorijai – tai, kuri sukelia AI tyrinėtojų susijaudinimą arba panikos priepuolius – dirbtinį superintelektą (ASI).

Norėdami apsisukti, kas yra ASI, turėsite grįžti prie paskutinio skyriaus, kuriame apibūdinome, kaip dirbtinio intelekto tyrinėtojai mano, kad jie sukurs pirmąjį AGI. Iš esmės tam reikės didesnių duomenų tiekimo geresnių algoritmų (tų, kurie specializuojasi savęs tobulinimo ir į žmones panašių mokymosi gebėjimų) derinio, patalpintų vis galingesnėje kompiuterinėje įrangoje.

Tame skyriuje taip pat apibūdinome, kaip AGI protas (įgijęs šiuos savęs tobulėjimo ir mokymosi gebėjimus, kuriuos mes, žmonės laikome savaime suprantamu dalyku) ilgainiui pralenks žmogaus protą dėl didesnio mąstymo greičio, pagerintos atminties, nenuilstamo veikimo ir momentinis atnaujinimas.

Tačiau čia svarbu pažymėti, kad AGI tobulės tik iki aparatinės įrangos ir duomenų, prie kurių jis turi prieigą, ribų; ši riba gali būti didelė arba maža, priklausomai nuo roboto korpuso, kurį jam suteikiame, arba kompiuterių, prie kurių leidžiame pasiekti, mastą.

Tuo tarpu skirtumas tarp AGI ir ASI yra tas, kad pastarasis teoriškai niekada neegzistuoja fizine forma. Jis veiks tik superkompiuteryje arba superkompiuterių tinkle. Atsižvelgiant į kūrėjų tikslus, jis taip pat gali gauti visišką prieigą prie visų internete saugomų duomenų, taip pat bet kokio įrenginio ar žmogaus, kuris tiekia duomenis į internetą ir per jį. Tai reiškia, kad nebus jokių praktinių apribojimų, kiek šis ASI gali išmokti ir kiek gali tobulėti.

Ir tai yra trintis.

Supratimas apie žvalgybos sprogimą

Šis savęs tobulinimo procesas, kurį AI ilgainiui įgys, kai jie taps AGI (procesas, kurį AI bendruomenė vadina rekursyviu savęs tobulėjimu), gali sukelti teigiamą grįžtamąjį ryšį, kuris atrodo maždaug taip:

Sukuriama nauja AGI, suteikiama prieiga prie roboto kūno ar didelio duomenų rinkinio, o tada duodama paprasta užduotis lavinti save, tobulinti savo intelektą. Iš pradžių šis AGI turės kūdikio, sunkiai suvokiančio naujas sąvokas, IQ. Laikui bėgant jis išmoksta pakankamai, kad pasiektų vidutinio suaugusio žmogaus IQ, bet čia jis nesibaigia. Naudojant šį naujai atrastą suaugusiųjų IQ, tampa daug lengviau ir greičiau tęsti šį tobulinimą iki taško, kai jo IQ sutampa su protingiausių žinomų žmonių IQ. Bet vėlgi, viskas tuo nesibaigia.

Šis procesas sujungiamas kiekviename naujame intelekto lygmenyje, vadovaujantis greitėjančios grąžos dėsniu, kol pasiekia neapskaičiuojamą superintelekto lygį – kitaip tariant, jei jis nebus kontroliuojamas ir jam bus suteikti neriboti ištekliai, AGI savaime pavirs į ASI, intelektą, kuris gamtoje dar niekada nebuvo.

Būtent tai I. J. Goodas pirmą kartą nustatė, kai apibūdino šį „žvalgybos sprogimą“ arba tai, ką šiuolaikiniai dirbtinio intelekto teoretikai, pavyzdžiui, Nickas Bostromas, vadina AI „kilimo“ įvykiu.

Suprasti dirbtinį superintelektą

Šiuo metu kai kurie iš jūsų tikriausiai galvoja, kad pagrindinis skirtumas tarp žmogaus intelekto ir ASI intelekto yra tai, kaip greitai bet kuri pusė gali mąstyti. Ir nors tiesa, kad šis teorinis ateities ASI mąstys greičiau nei žmonės, šis gebėjimas jau gana įprastas šiandieniniame kompiuterių sektoriuje – mūsų išmanusis telefonas mąsto (skaičiuoja) greičiau nei žmogaus protas, superkompiuteris mąsto milijonus kartų greičiau nei išmanusis telefonas, o būsimas kvantinis kompiuteris vis tiek mąstys greičiau.

Ne, greitis nėra intelekto ypatybė, kurią mes čia paaiškiname. Tai kokybė.

Galite pagreitinti savo samojedo ar korgio smegenis, bet tai nereiškia, kad naujas supratimas, kaip interpretuoti kalbą ar abstrakčias idėjas. Net ir praėjus dešimtmečiui ar dviems, šie šunys staiga nesupras, kaip gaminti ar naudoti įrankius, jau nekalbant apie smulkesnius kapitalistinės ir socialistinės ekonominės sistemos skirtumus.

Kalbant apie intelektą, žmonės veikia kitoje plotmėje nei gyvūnai. Panašiai, jei ASI išnaudos visą savo teorinį potencialą, jų protas veiks tokiu lygiu, kuris toli gražu nepasiekiamas paprastam šiuolaikiniam žmogui. Tam tikram kontekstui pažvelkime į šių ASI programas.

Kaip dirbtinis superintelektas galėtų veikti kartu su žmonija?

Darant prielaidą, kad tam tikra vyriausybė ar korporacija sėkmingai sukuria ASI, kaip jie galėtų tai panaudoti? Pasak Bostromo, šios ASI gali būti trys atskiros, bet susijusios formos:

Orakulas Čia mes sąveikautume su ASI taip pat, kaip jau darome su Google paieškos varikliu; mes užduosime jam klausimą, bet kad ir koks sudėtingas klausimas būtų, ASI į jį atsakys puikiai ir jums bei jūsų klausimo kontekstui pritaikytu būdu.
džinas. Tokiu atveju mes priskirsime ASI konkrečią užduotį ir ji vykdys taip, kaip nurodyta. Ištirkite vėžio gydymą. Padaryta. Raskite visas planetas, paslėptas per 10 metų NASA Hablo kosminio teleskopo vaizdų. Padaryta. Sukurkite veikiantį branduolių sintezės reaktorių, kad išspręstumėte žmonijos energijos poreikį. Abrakadabra.
suverenus. Čia ASI priskiriama neterminuota misija ir suteikiama laisvė ją vykdyti. Pavokite mokslinių tyrimų ir plėtros paslaptis iš mūsų įmonės konkurento. „Lengvai“. Atraskite visų užsienio šnipų, besislepiančių mūsų sienose, tapatybes. "Ant jo". Užtikrinti tolesnį Jungtinių Valstijų ekonominį klestėjimą. "Jokiu problemu."

Dabar aš žinau, ką tu galvoji, visa tai skamba gana toli. Štai kodėl svarbu atsiminti, kad kiekviena problema/iššūkis, net ir tas, kuris iki šiol pribloškė šviesiausius pasaulio protus, yra išspręstas. Tačiau problemos sudėtingumas matuojamas intelektu, kuris ją sprendžia.

Kitaip tariant, kuo didesnis protas nukreiptas į iššūkį, tuo lengviau bus rasti sprendimo sprendimą. Bet koks iššūkis. Tai tarsi suaugęs žmogus, stebintis, kaip kūdikis stengiasi suprasti, kodėl jis negali sutalpinti kvadratinės kaladėlės į apvalią angą – suaugusiajam parodyti kūdikiui, kad kaladė turi tilpti pro kvadratinę angą, būtų vaikų žaidimas.

Taip pat, jei ši ateities ASI išnaudotų visą savo potencialą, šis protas taptų galingiausiu intelektu žinomoje visatoje – pakankamai galingu, kad išspręstų bet kokį iššūkį, kad ir koks sudėtingas jis būtų.

Štai kodėl daugelis dirbtinio intelekto tyrinėtojų ASI vadina paskutiniu išradimu, kurį kada nors turės padaryti žmogus. Jei esame įsitikinę, kad dirbsime kartu su žmonija, tai gali padėti mums išspręsti visas aktualiausias pasaulio problemas. Mes netgi galime paprašyti, kad jis pašalintų visas ligas ir užbaigtų senėjimą, kaip žinome. Žmonija pirmą kartą gali apgauti mirtį visam laikui ir įžengti į naują klestėjimo amžių.

Tačiau įmanoma ir priešingai.

Intelektas yra galia. Jei jis netinkamai valdomas ar pavestas blogų aktorių, šis ASI gali tapti pagrindiniu priespaudos įrankiu arba visiškai sunaikinti žmoniją – pagalvokite apie „Skynet“ iš „Terminatoriaus“ arba „Architektas“ iš filmų „Matrica“.

Tiesą sakant, nė vienas kraštutinumas nėra tikėtinas. Ateitis visada daug niūresnė, nei prognozuoja utopistai ir distopistai. Štai kodėl dabar, kai suprantame ASI sąvoką, likusioje šios serijos dalyje bus nagrinėjama, kaip ASI paveiks visuomenę, kaip visuomenė apsigins nuo nesąžiningų ASI ir kaip galėtų atrodyti ateitis, jei žmonės ir AI gyvens greta. - pusė. Skaityk.