Ma îstîxbaratek çêkirî dê mirovahiyê tune bike? Pêşeroja îstîxbarata sûnî P4

Hin îcad hene ku milet tev li wan dibin. Ev îcad in ku her tişt bi yekembûnê ve girêdayî ye, û tiştek kêmtir dibe ku ji bo zindîbûna neteweyek were wateya xetereyek stratejîk û mirinê.

Van îcadên ku tarîx diyar dikin pir caran nayên dîtin, lê gava ku ew çêdibin, cîhan disekine û pêşerojek pêşbînîkirî tarî dibe.

Dahênana bi vî rengî ya paşîn di dema xirabtirîn Şerê Cîhanê yê Duyemîn de derket holê. Dema ku Naziyan di cîhana kevn de, di cîhana nû de, bi taybetî di hundurê bingehek artêşek veşartî de li derveyî Los Alamos, li hemî eniyan zevî bi dest dixistin, Hevalbendan li ser çekek dijwar dixebitin ku hemî çekan biqedînin.

Proje di destpêkê de piçûk bû, lê paşê mezin bû ku 130,000 mirovên ji DY, Keyaniya Yekbûyî, û Kanada, di nav wan de gelek ji mezintirîn ramanwerên cîhanê yên wê demê jî hene. Bi kodnavê Projeya Manhattan û bi budceyek bêsînor - bi qasî 23 mîlyar dolar di sala 2018-an de - ev artêş a jîrebûna mirovî di dawiyê de di afirandina yekem bombeya nukleerî de bi ser ket. Demek şûnda, Şerê Cîhanê yê Duyemîn bi du teqînên atomê bi dawî bû.

Van çekên nukleerî dest bi serdema atomê kirin, çavkaniyek pir nû ya enerjiyê destnîşan kirin, û şiyana mirovatiyê da ku di çend deqeyan de xwe ji holê rabike-tiştek ku em tevî Şerê Sar jê dûr ketin.

Afirandina superîstîxbaratek çêkirî (ASI) dîrokek din e ku îcadek diyar dike ku hêza wê (hem erênî û hem jî wêranker) ji bombeya nukleerî pirtir e.

Di beşa paşîn a rêzenivîsa Pêşeroja Zehmetiya Hunerî de, me lêkolîn kir ku ASI çi ye û lêkolîner çawa plan dikin ku rojek yek ava bikin. Di vê beşê de, em ê binihêrin ka kîjan rêxistin pêşengiya lêkolîna îstîxbarata sûnî (AI) dikin, gava ku ASI hişmendiyek mîna mirovî bi dest bixe dê çi bixwaze, û heke xelet were rêvebirin an jî yek bikeve bin bandora rejîmên ne ewqas xweş.

Kî ji bo avakirina superîstîxbaratek çêkirî dixebite?

Ji ber ku çêkirina ASI dê ji dîroka mirovahiyê re çiqas girîng be û ew ê çiqas avantajek mezin bide afirînerê xwe, divê ne surprîz be ku bibihîzin ku gelek kom bi awayekî nerasterast li ser vê projeyê dixebitin.

(Bi nerasterast, mebesta me ye ku li ser lêkolîna AI-ê bixebitin ku dê di dawiyê de ya yekem biafirîne zîrekiya giştî ya sûnî (AGI), ew ê bixwe di demek nêzîk de bibe sedema yekem ASI.)

Destpêkê, dema ku dor tê ser sernivîsan, serokên zelal di lêkolîna pêşkeftî ya AI-ê de pargîdaniyên teknolojiyê yên top li DY û Chinaînê ne. Li eniya Dewletên Yekbûyî, ev pargîdaniyên wekî Google, IBM, û Microsoft-ê, û li Chinaînê, ev pargîdaniyên mîna Tencent, Baidu, û Alibaba dihewîne. Lê ji ber ku lêkolîna AI-ê li gorî pêşkeftina tiştek fîzîkî, mîna reaktorek nukleerî çêtir erzan e, ev di heman demê de qadek e ku rêxistinên piçûk jî dikarin tê de pêşbaziyê bikin, mîna zanîngeh, destpêk, û ... rêxistinên siya (xeyalên xwe yên xerab Bond bikar bînin ji bo Ew).

Lê li pişt perdeyê, pişka rastîn a li pişt lêkolîna AI-ê ji hukûmet û leşkerên wan tê. Xelata aborî û leşkerî ya yekem a afirandina ASI pir mezin e (li jêr hatî destnîşan kirin) ku xetera paşvemayînê bike. Û metirsiya dawîbûnê jî bi kêmanî ji bo hin rejîman nayê qebûlkirin.

Ji ber van faktoran, lêçûna nisbeten kêm a lêkolîna AI-ê, serîlêdanên bazirganî yên bêdawî yên AI-ya pêşkeftî, û berjewendiya aborî û leşkerî ya yekem a afirandina ASI-yê, gelek lêkolînerên AI-ê bawer dikin ku çêkirina ASI-ê neçar e.

Em ê kengê îstîxbarata sûnî ava bikin

Di beşa me ya di derbarê AGI de, me behs kir ku çawa anketek ji lêkolînerên AI-ê yên sereke bawer kir ku em ê heya sala 2022-an, bi rastî heya 2040-an, û bi reşbîniyê heya 2075-an AGI-ya yekem bi xweşbînî biafirînin.

Û di me de beşa dawî, me diyar kir ku çawa afirandina ASI bi gelemperî encama rêwerzkirina AGI-yê ye ku xwe bêsînor xwe-pêşvebir bike û jê re çavkanî û azadiya wiya bide.

Ji ber vê yekê, dema ku AGI dikare hîn çend dehsalan bigire ku îcad bike, çêkirina ASI dibe ku tenê çend sal zêdetir bigire.

Ev xal dişibihe têgîna 'zêdebûna kompîturê' ya ku tê de tê pêşniyar kirin kaxezek, ji hêla ramanwerên sereke yên AI-ê Luke Muehlhauser û Nick Bostrom ve hatî nivîsandin. Di bingeh de, heke çêkirina AGI-yê di kapasîteya hesabkirinê de, ku ji hêla Qanûna Moore ve hatî hêzdar kirin, berdewam bike li paş pêşkeftina heyî ya paşde bimîne, wê hingê dema ku lêkolîner AGI-yek îcad bikin, dê ew qas hêza hesabkirinê ya erzan peyda bibe ku AGI dê xwediyê kapasîteyê be. pêdivî ye ku ew zû bigihîje asta ASI.

Bi gotinek din, gava ku hûn di dawiyê de sernivîsên ku ragihandine ku hin pargîdaniyek teknolojiyê yekem AGI-ya rastîn îcad kiriye, bixwînin, wê hingê li benda ragihandina yekem ASI ne ku demek dirêj şûnda be.

Di hundurê hişê superîstîxbaratek çêkirî de?

Baş e, ji ber vê yekê me destnîşan kir ku gelek lîstikvanên mezin ên xwedan berikên kûr li AI-ê lêkolîn dikin. Û dûv re piştî ku AGI-ya yekem hate îcadkirin, em ê bibînin ku hukûmetên cîhanî (leşkerî) ronîkirina kesk didin ber ASI-yê di demek nêzîk de piştî wê yekê ku bibin yekem ku pêşbaziya çekan a gerdûnî ya AI (ASI) bi dest bixe.

Lê gava ku ev ASI were afirandin, ew ê çawa bifikire? Wê çi bixwaze?

Kûçikê dost, fîlê xemxur, robotê delal - wek mirov, adeteke me heye ku em bi antropolojîkirina wan tiştan, ango sepandina taybetmendiyên mirovî li ser tiştan û heywanan bikin. Ji ber vê yekê texmîna yekem a xwezayî ya ku mirov li ser ASI difikirin ev e ku gava ku ew bi rengek hişmendî bi dest bixe, ew ê mîna me bifikire û tevbigere.

Belê, ne hewce ye.

Lêhayî. Ji bo yekê, ya ku pir meyla ji bîr dike ev e ku têgihiştin têkildar e. Awayên ku em difikirin ji hêla hawîrdora me, bi ezmûnên me, û nemaze ji hêla biyolojiya me ve têne çêkirin. Pêşî tê ravekirin beşa sêyem me Future of Human Evolution rêze, mînaka mêjiyê me binirxînin:

Ew mêjiyê me ye ku ji me re dibe alîkar ku cîhana li dora xwe fam bikin. Û ew vê yekê dike ne bi rijandina ser serê me, nihêrîna li dora xwe, û kontrolkirina me bi kontrolkerek Xbox; ew vê yekê dike ku di hundurê qutiyek (noggins me) de tê girtin û hemî agahdariya ku ew ji organên me yên hestî têne dayîn - çav, poz, guhên me, hwd.

Lê çawa ku kerr an jî kor li gorî mirovên beden pir piçûktir dijîn, ji ber kêmasiyên wan ên seqetî li ser çawaniya dîtina dinyayê cih digirin, heman tişt dikare ji bo hemî mirovan ji ber sînorên me yên bingehîn were gotin. komek organên hestî.

Vê yekê bifikirin: Çavên me ji deh-trilyontha hemû pêlên ronahiyê kêmtir dibînin. Em nikarin tîrêjên gamayê bibînin. Em nikarin rontgenê bibînin. Em nikarin ronahiya ultraviolet bibînin. Û min dest bi pêlên infrared, mîkro û pêlên radyoyê nekin!

Hemî henekên xwe li hêlekê bikin, bifikire ku jiyana we dê çawa be, hûn dikarin cîhanê çawa bihesibînin, hişê we çiqas cûda karibûya bixebite ger we bikariba ji ronahiya piçûktir a ku çavên we niha destûr didin bibînin. Bi heman awayî, bifikire ku hûn ê dinyayê çawa bihesibînin ger bêhna we bi ya kûçikan be an jî heke hesta weya bihîstinê wekî ya fîlan be.

Wekî mirov, em di bingeh de cîhanê bi rêgezek dibînin, û ew di hişên ku me pêşxistiye de tê xuyang kirin da ku em têgihîştina sînorkirî fam bikin.

Di vê navberê de, yekem ASI dê di hundurê superkomputerek de çêbibe. Li şûna organan, danûstendinên ku ew ê bigihîje danehevên gewre, belkî (dibe ku) gihîştina Înternetê bixwe jî dihewîne. Lekolînwan dikarin wê bigihînin kamerayên CCTV û mîkrofonên bajarekî tevayî, daneyên hestiyar ên ji dron û satelaytan, û tewra forma laş an laşên robotan.

Wekî ku hûn dikarin xeyal bikin, hişê ku di hundurê superkomputerek de çêbûye, bi gihîştina rasterast a Înternetê, bi mîlyonan çav û guhên elektronîkî û tevahî senzorên din ên pêşkeftî dê ne tenê ji me cûdatir bifikire, lê dê hişek ku dikare aqil bide. ji wan hemû danûstendinên hestî divê ji me jî bêsînor bilindtir bin. Ev hişek e ku dê bi tevahî ji xweya me û ji her cûre jiyanek din a li ser planetê re xerîb be.

armancên. Tiştê din ku mirov texmîn dike ev e ku gava ku ASI bigihîje hin astek serhişkiya xwe, ew ê tavilê xwestek bigihîje armanc û mebestên xwe. Lê ev jî ne pêwîst e rast e.

Gelek lêkolînerên AI-ê bawer dikin ku superaqilmendiya ASI û armancên wê "orthogonal" in, ango, bêyî ku ew çiqas jîr be, dê armancên ASI wekî xwe bimînin. 

Ji ber vê yekê gelo AI-ê di eslê xwe de ji bo sêwirana pêlavek çêtir hatî çêkirin, zêdekirina vegerên li ser borsayê, an stratejiyek ji bo têkbirina dijminek li qada şer, gava ku ew bigihîje asta ASI-ê, armanca bingehîn dê neguhere; ya ku dê biguhere bandora ASI ye ku bigihîje wan armancan.

Lê xeterî di vir de ye. Ger ASI-yek ku xwe ji armancek taybetî re xweşbîn dike, wê hingê em çêtir e ku ew ji bo armancek ku li gorî armancên mirovahiyê ye xweşbîn be. Wekî din, encam dikare bibe mirinê.

Ma îstîxbaratek çêkirî ji mirovahiyê re xeterek hebûnê çêdike?

Ji ber vê yekê heke ASI li cîhanê were berdan çi? Ger ew xweşbîn e ku serdestiya li ser sûkê bike an serweriya leşkerî ya Dewletên Yekbûyî misoger bike, gelo ASI dê xwe di nav wan armancên taybetî de negire?

Bi îmkan.

Heya nuha me nîqaş kir ku ASI dê çawa bi mebesta (a) ku ew di eslê xwe de hatî peywirdar kirin û di peydakirina wan armancan de jêhatî be. Girîng ev e ku karmendek maqûl dê armancên xwe bi rêyên herî bikêrhatî bişopîne heya ku sedemek neyê dayîn.

Mînakî, karmendê maqûl dê bi hin armancên jêrîn (ango armanc, armancên amûr, kevirên gavê) ku dê alîkariya wî bikin di riya xwe de ji bo gihîştina armanca xwe ya dawî. Ji bo mirovan, mebesta me ya bingehîn a binehişmendî nûbûn, derbaskirina genên we ye (ango nemiriya nerasterast). Bin-armancên ji bo wê armancê bi gelemperî dikarin bibin:

• Zindîbûn, bi gihîştina xwarin û avê, mezinbûn û bihêzbûna xwe, fêrbûna parastina xwe an veberhênana di cûrbecûr cûrbecûr parastinê de, hwd. 
• Cêzkirina hevalek, bi xebitandin, pêşvebirina kesayetiyek balkêş, cil û bergên bi şêwaz, hwd.
• Xwedîkirina dûndanan, bi wergirtina perwerdehiyê, peydakirina karekî payebilind, kirîna xefikên jiyana çîna navîn û hwd.

Ji bo pirraniya me, em ê van hemî bine-armancan û gelekên din ji holê rabikin, bi hêviya ku di dawiyê de, em ê bigihîjin vê armanca dawîn a ji nû ve hilberandinê.

Lê heke ev armanca dawîn, an jî yek ji armancên jêrîn ên girîngtir, were tehdîd kirin, gelek ji me dê çalakiyên berevaniyê li derveyî qadên xwe yên rehetiya exlaqî bikin - ku di nav de xapandin, dizîn, an jî kuştinê jî heye.

Bi heman awayî, di padîşahiya heywanan de, li derveyî sînorên exlaqê mirovan, gelek heywan li ser kuştina tiştê ku xwe an jî dûndana wan tehdîd bike du caran nafikirin.

ASI pêşerojê dê ne cûda be.

Lê li şûna nesla, ASI dê bala xwe bide ser armanca bingehîn ku ji bo wê hatiye afirandin, û di peydakirina vê armancê de, ger komek taybetî ya mirovan, an jî tevahiya mirovahiyê bibîne, di peydakirina armancên xwe de dibe asteng. , paşê ... wê biryara aqilane bide.

(Li vir e ku hûn dikarin her senaryoya roja qiyametê ya ku we di pirtûk an fîlima xweya zanistî ya bijare de xwendiye bi AI-ê ve girêdayî ye.)

Ev senaryoya herî xirab e ku lêkolînerên AI-ê bi rastî jê fikar in. ASI dê ne ji kîn û nefretê, tenê ji xemsariyê tevbigere, mîna ku ekîbek avahîsaziyê dê di pêvajoya avakirina birca kondoyê ya nû de du caran li ser bordûmankirina girê mêşhingiv nefikire.

Nîşe Side. Di vê nuqteyê de, dibe ku hin ji we bipirsin, "Ma lêkolînerên AI-ê nekarin tenê armancên bingehîn ên ASI-yê piştî rastiyê biguherînin heke em bibînin ku ew tevdigere?"

Ne rast.

Gava ku ASI mezin dibe, her hewildanek ji bo sererastkirina armanc(ên) xweya orîjînal dibe ku wekî metirsî were dîtin, û ya ku ji bo parastina xwe li hember wê tevgerên tund hewce dike. Tevahiya mînaka nûsandina mirovan a berê bikar tîne, hema wisa ye ku dizek tehdîd bike ku dê pitikek ji zikê dayikek bendewar bidize - hûn bi naletê bawer bin ku dê dê tedbîrên tund bigire da ku zarokê xwe biparêze.

Dîsa, em li vir ne li ser hesabkerek, lê li ser hebûnek 'zindî' dipeyivin, û yê ku dê rojekê ji hemî mirovên li ser gerstêrkê bi hev re jîrtir bibe.

Nenas

Li pişt fablê Sindoqa Pandora rastiyek kêmtir naskirî ye ku mirov pir caran ji bîr dike: vekirina sindoqê neçar e, ger ne ji hêla we ve ne ji hêla kesek din ve. Zanîna qedexe pir ceribandî ye ku meriv her û her girtî bimîne.

Ji ber vê yekê hewldana gihîştina peymanek gerdûnî ji bo rawestandina hemî lêkolînên li ser AI-ê ku dibe ku bibe sedema ASI-yê bêwate ye - tenê gelek rêxistin hene ku hem bi fermî û hem jî di bin siyê de li ser vê teknolojiyê dixebitin.

Di dawiyê de, me nizane ku ev saziya nû, ev ASI dê ji bo civakê, ji teknolojî, ji siyasetê, aştî û şer re were çi wateyê. Em mirov in ku ji nû ve agir îcad bikin û ev afirandin me bi ku ve dibe bi tevahî nayê zanîn.

Li beşa yekem a vê rêzê vedigerin, tiştê ku em bi guman dizanin ev e ku îstîxbarat hêz e. Îstixbarat kontrol e. Însan dikarin li zozanên xwe yên herêmî bi awayekî bêserûber serdana ajalên herî xeternak ên cîhanê bikin, ne ji ber ku em bi fizîkî ji van heywanan bihêztir in, lê ji ber ku em bi girîngî jîrtir in.

Ji ber pirsgirêkên potansiyel ên têkildar, ku ASI aqilê xwe yê mezin bikar tîne da ku kiryarên ku rasterast an bêhemdî tehdîd li ser saxbûna nijada mirovî bike, em deyndarê xwe ne ku bi kêmanî hewl bidin ku parastinên ku rê bidin mirovan ku di ajokar de bimînin. rûniştek-ev mijara beşa pêş de ye.

Pêşeroja rêzikên îstîxbarata sûnî

Q1: Îstixbarata çêkirî elektrîka sibê ye

Q2: Yekemîn Îstixbarata Giştî ya Hunerî dê çawa civakê biguherîne

Q3: Em ê çawa yekem Zêhniya Xweseriya Hunerî biafirînin

Q5: Mirov dê çawa li hember Zêrînek Zêrîn a Artificial biparêzin

Q6: Ma mirov dê di pêşerojek ku ji hêla îstîxbarata çêkirî ve serdest be bi aramî bijîn?