Чӣ гуна одамон аз суперинтеллекти сунъӣ дифоъ хоҳанд кард: Ояндаи зеҳни сунъӣ P5

Соли 65,000 XNUMX пеш аз милод ва ҳамчун а Thylacoleo, шумо ва насли шумо шикорчиёни бузурги Австралияи қадим буданд. Шумо дар рӯи замин озодона сайр мекардед ва дар мувозинат бо ҳамватанони дарранда ва сайд, ки заминро дар паҳлӯи шумо ишғол кардаанд, зиндагӣ мекардед. Фаслҳо тағирот оварданд, аммо мақоми шумо дар олами ҳайвонот то даме, ки шумо ва аҷдодони шумо дар ёд дошта метавонед, беэътиноӣ монд. Пас як руз навкорон пайдо шуданд.

Овоза гуфта мешавад, ки онҳо аз девори азими обӣ омадаанд, аммо ин махлуқҳо дар замин зиндагӣ бароҳаттар менамуданд. Шумо бояд ин махлуқҳоро худатон бубинед.

Ин чанд рӯз лозим шуд, аммо шумо ниҳоят ба соҳил расидед. Оташ дар осмон фуруд меомад, вақти беҳтарин барои ҷосусӣ дар бораи ин махлуқҳо, шояд ҳатто кӯшиш кунед, ки якеро бихӯред, то бубинед, ки чӣ гуна онҳо чашиданд.

Шумо якеро мебинед.

Он бо ду по мерафт ва мӯяш надошт. Ба назар заиф менамуд. Бетаъсир. Базӯр меарзад тарсу ҳарос, ки он дар байни салтанат буд.

Шумо ба муносибати худ бодиққат оғоз мекунед, зеро шаб нурро дур мекунад. Шумо наздиктар мешавед. Он гоҳ шумо ях мекунед. Садои баланде баланд мешавад ва баъд аз паси он боз чор нафари дигар аз чангал пайдо мешаванд. Чанд нафар ҳастанд?

Махлук аз паси дигарон ба хати дарахт меравад ва шумо аз паи он меравед. Ва ҳар қадаре, ки шумо кор кунед, ҳамон қадар садоҳои аҷибе бештар мешунавед, то он даме, ки бештари ин махлуқҳоро пайдо кунед. Шумо аз масофаи дур пайравӣ мекунед, вақте ки онҳо аз ҷангал ба холигоҳи соҳил мебароянд. Бисёре аз онҳо ҳастанд. Аммо муҳимтар аз ҳама, ҳама оромона дар атрофи оташ нишастаанд.

Шумо ин оташро пештар дидаед. Дар фасли гармо оташи осмон баъзан ба замин ташриф оварда, тамоми ҷангалҳоро сӯзонд. Ин махлуқот, аз тарафи дигар, онҳо бо кадом роҳ онро идора мекарданд. Кадом махлуқот метавонад соҳиби чунин қудрат бошад?

Шумо ба дур менигаред. Бештар аз болои девори обии азим меоянд.

Шумо як қадам ба ақиб меравед.

Ин махлуқот мисли дигарон дар салтанат нестанд. Онҳо чизи комилан нав мебошанд.

Шумо қарор медиҳед, ки тарк кунед ва хешовандони худро огоҳ кунед. Агар шумораи онҳо хеле зиёд шавад, кӣ медонад, ки чӣ мешавад.

***

Гумон меравад, ки Тилаколео пас аз омадани одамон дар якҷоягӣ бо аксарияти дигар мегафаунаҳо дар қитъаи Австралия аз байн рафтаанд. Ҳеҷ як ҳайвонҳои дигари даррандаи ширхӯрон ҷои онро нагирифтанд - агар шумо одамонро дар ин категория ҳисоб накунед.

Бозикунии ин истилоҳот меҳвари ин боби силсила аст: Оё олиҷаноби сунъии оянда (ASI) ҳамаи моро ба батарея табдил медиҳад ва сипас моро ба матритса мепайвандад ё одамон роҳи худро мефаҳманд, ки қурбонии фантастика нашаванд? Нақшаи рӯзи қиёмат?

То ҳол дар силсилаи мо оид ба Ояндаи зеҳни сунъӣ, мо ҳама намудҳои AI-ро, аз ҷумла потенсиали мусбати як шакли мушаххаси AI, ASI-ро омӯхтаем: мавҷудоти сунъӣ, ки зеҳни ояндааш моро дар муқоиса ба мӯрчагон монанд мекунад.

Аммо кӣ мегӯяд, ки мавҷудияти ин қадар оқил то абад фармоиши одамонро қабул мекунад. Агар кор ба ҷануб равад, мо чӣ кор хоҳем кард? Чӣ тавр мо аз ASI-и қаллобӣ дифоъ хоҳем кард?

Дар ин боб, мо шӯъбаҳои бардурӯғро бурида хоҳем кард - ҳадди аққал он ба хатарҳои "сатҳи нобудшавии инсонҳо" дахл дорад - ва ба вариантҳои воқеии дифоъ аз худ, ки барои ҳукуматҳои ҷаҳонӣ дастрасанд, тамаркуз мекунем.

Оё мо метавонем ҳама таҳқиқоти минбаъдаро дар бораи интеллекти сунъӣ боздорем?

Бо дарназардошти хатарҳои эҳтимолие, ки ASI метавонад ба инсоният эҷод кунад, аввалин саволи возеҳе, ки бояд дода шавад, ин аст: Оё мо метавонем ҳама таҳқиқоти минбаъдаро дар бораи AI қатъ кунем? Ё ҳадди аққал ягон тадқиқотеро, ки моро ба эҷоди ASI хатарнок наздик мекунад, манъ кунед?

Ҷавоби кӯтоҳ: Не.

Ҷавоби дароз: Биёед ба бозигарони мухталифе, ки дар ин ҷо иштирок мекунанд, бубинем.

Дар сатҳи тадқиқот, имрӯз муҳаққиқони AI аз ҳад зиёди стартапҳо, ширкатҳо ва донишгоҳҳои саросари ҷаҳон хеле зиёданд. Агар як ширкат ё кишвар тасмим гирифт, ки кӯшишҳои таҳқиқоти AI-и худро маҳдуд кунад, онҳо танҳо дар ҷои дигар идома хоҳанд дод.

Дар ҳамин ҳол, арзишмандтарин ширкатҳои сайёра сарвати худро аз истифодаи системаҳои AI дар тиҷорати мушаххаси худ ба даст меоранд. Аз онҳо хоҳиш кардан дар бораи қатъ ё маҳдуд кардани рушди онҳо дар асбобҳои AI монанд аст, ки аз онҳо хоҳиши қатъ ё маҳдуд кардани рушди ояндаи худро доранд. Аз ҷиҳати молиявӣ, ин ба тиҷорати дарозмуддати онҳо таҳдид мекунад. Аз рӯи қонун, корпоратсияҳо масъулияти боваринок доранд, ки барои ҷонибҳои манфиатдори худ пайваста арзиш эҷод кунанд; ин маънои онро дорад, ки ҳама гуна амале, ки афзоиши ин арзишро маҳдуд мекунад, метавонад боиси даъво гардад. Ва агар ягон сиёсатмадор кӯшиш кунад, ки таҳқиқоти AI-ро маҳдуд кунад, пас ин корпоратсияҳои азим танҳо маблағи зарурии лоббиро барои тағир додани ақидаи худ ё тафаккури ҳамкасбони худ пардохт мекарданд.

Барои мубориза, ҳамон тавре, ки террористон ва муборизони озодӣ дар саросари ҷаҳон тактикаи партизаниро барои мубориза бар зидди низомиёни беҳтар маблағгузоришуда истифода кардаанд, миллатҳои хурдтар барои истифодаи AI ҳамчун як бартарии тактикӣ дар муқобили миллатҳои бузургтаре, ки метавонанд як қатор бартариҳои низомӣ дошта бошанд. Ба ҳамин монанд, барои низомиёни олӣ, ба монанди онҳое, ки ба ИМА, Русия ва Чин тааллуқ доранд, сохтани ASI-и ҳарбӣ бо доштани арсенали силоҳи ҳастаӣ дар ҷайби пушти шумо баробар аст. Ба ибораи дигар, ҳама низомиён маблағгузории AI-ро идома хоҳанд дод, то дар оянда мувофиқат кунанд.

Дар бораи ҳукуматҳо чӣ гуфтан мумкин аст? Воқеан, аксари сиёсатмадорон дар ин рӯзҳо (2018) аз ҷиҳати технологӣ савод надоранд ва дар бораи он ки AI чист ё потенсиали ояндаи он чандон дарк намекунанд - ин онҳоро идора кардани манфиатҳои корпоративӣ осон мекунад.

Ва дар сатҳи ҷаҳонӣ, фикр кунед, ки то чӣ андоза итминон додани ҳукуматҳои ҷаҳон ба имзои соли 2015 душвор буд Созишномаи Париж барои мубориза бо тағирёбии иқлим - ва вақте ки ба имзо расид, бисёре аз ӯҳдадориҳо ҳатто ҳатмӣ набуданд. На танҳо ин, тағирёбии иқлим як масъалаест, ки одамон дар саросари ҷаҳон тавассути ҳодисаҳои зуд-зуд ва шадиди обу ҳаво аз сар мегузаронанд. Ҳоло, вақте ки дар бораи розӣ шудан ба маҳдудиятҳои AI сухан меравад, ин масъалаест, ки ба таври назаррас ноаён ва барои ҷомеа базӯр фаҳмо аст, аз ин рӯ, барои хариди ҳама гуна 'Созишномаи Париж' барои маҳдуд кардани AI барори кор.

Ба ибораи дигар, манфиатҳои зиёде мавҷуданд, ки AI-ро барои мақсадҳои худ таҳқиқ мекунанд, то ҳама гуна таҳқиқотро қатъ кунанд, ки дар ниҳоят метавонад ба ASI оварда расонад. 

Оё мо метавонем суперинтеллекти сунъиро қафас кунем?

Саволи оқилонаи навбатӣ ин аст, ки оё мо метавонем ASI-ро ҳангоми эҷоди ногузир қафас кунем ё назорат кунем? 

Ҷавоби кӯтоҳ: Боз, не.

Ҷавоби дароз: Технологияро нигоҳ доштан мумкин нест.

Барои як, танҳо ҳазорҳо то миллионҳо веб-таҳиягарон ва олимони компютерро дар ҷаҳон баррасӣ кунед, ки ҳамеша нармафзори нав ё версияҳои нави нармафзори мавҷударо хориҷ мекунанд. Оё мо метавонем ростқавлона бигӯем, ки ҳар як нашри нармафзори онҳо 100 дарсад хатогӣ надорад? Ин хатоҳо он чизест, ки ҳакерҳои касбӣ барои дуздидани маълумоти корти кредитии миллионҳо ё асрори махфии миллатҳо истифода мебаранд - ва инҳо ҳакерҳои инсонӣ мебошанд. Барои ASI, агар он ангезае дошта бошад, ки аз қафаси рақамии худ раҳо шавад, пас раванди дарёфти хатогиҳо ва шикастани нармафзор як боди хоҳад буд.

Аммо ҳатто агар як гурӯҳи таҳқиқотии AI роҳи қуттии ASI-ро муайян карда бошад, ин маънои онро надорад, ки 1,000 дастаи оянда низ онро муайян мекунанд ё барои истифодаи он ҳавасманд карда мешаванд.

Барои сохтани ASI миллиардҳо доллар ва ҳатто даҳсолаҳо лозим аст. Корпоратсияҳо ё ҳукуматҳое, ки ин гуна пул ва вақтро сармоягузорӣ мекунанд, бозгашти назарраси сармоягузории худро интизор мешаванд. Ва барои ASI барои таъмин кардани ин гуна бозгашт - хоҳ ин бозӣ дар бозори саҳҳомӣ ё ихтироъ кардани маҳсулоти нави миллиард доллар ё нақшаи стратегияи ғолиб барои мубориза бо артиши бузургтар бошад - он ба дастрасии ройгон ба маҷмӯаи азими маълумот ё ҳатто Интернет ниёз дорад. худаш барои ба даст овардани ин даромадҳо.

Ва вақте ки ASI ба шабакаҳои ҷаҳонӣ дастрасӣ пайдо мекунад, ҳеҷ кафолате нест, ки мо онро дубора дар қафаси он пур карда метавонем.

Оё интеллекти сунъӣ хуб буданро ёд гирифта метавонад?

Дар айни замон, муҳаққиқони AI аз бад шудани ASI хавотир нестанд. Тамоми бадӣ, фантастикаи AI танҳо одамонро боз антропоморфизатсия мекунад. ASI-и оянда на хуб ва на бад - мафҳумҳои инсонӣ - танҳо ахлоқӣ нахоҳад буд.

Пас, фарзияи табиӣ ин аст, ки бо назардошти ин варақаи холии ахлоқӣ, муҳаққиқони AI метавонанд аввалин кодексҳои ахлоқии ASI-ро, ки ба кодекси мо мувофиқанд, барномарезӣ кунанд, то ин ки дар натиҷа Терминаторҳо бар мо сарнагун нашавад ё ҳамаи моро ба батареяҳои матритса табдил надиҳад.

Аммо ин фарзия як фарзияи дуввумро бармеангезад, ки муҳаққиқони AI низ коршиносони ахлоқ, фалсафа ва психология ҳастанд.

Дар ҳақиқат, аксарият не.

Ба гуфтаи равоншиноси маърифатӣ ва муаллиф, Стивен Пинкер, ин воқеият маънои онро дорад, ки вазифаи рамзгузории этика метавонад бо роҳҳои гуногун хато кунад.

Масалан, ҳатто муҳаққиқони беҳтарин нияти AI метавонанд ба таври ногаҳонӣ ба ин кодексҳои ахлоқии нодурусти ASI код гузоранд, ки дар сенарияҳои муайян метавонанд ASI-ро ҳамчун ҷомеашинос амал кунанд.

Ба ҳамин монанд, эҳтимоли баробар вуҷуд дорад, ки як муҳаққиқи AI кодҳои ахлоқиро барномарезӣ кунад, ки ғаразҳои модарзодии муҳаққиқро дар бар мегирад. Масалан, ASI чӣ гуна рафтор мекунад, агар бо ахлоқи аз нуқтаи назари консервативӣ ва либералӣ ё аз буддоӣ бар зидди анъанаи масеҳӣ ё исломӣ сохта шуда бошад?

Ман фикр мекунам, ки шумо масъаларо дар ин ҷо мебинед: Маҷмӯи умумии ахлоқи инсонӣ вуҷуд надорад. Агар мо хоҳем, ки ASI-и мо аз рӯи кодекси ахлоқӣ амал кунад, он аз куҷо пайдо мешавад? Кадом қоидаҳоро мо дохил мекунем ва истисно мекунем? Кӣ қарор медиҳад?

Ё бигӯем, ки ин муҳаққиқони AI як ASI эҷод мекунанд, ки комилан ба меъёрҳо ва қонунҳои фарҳангии муосири имрӯза мувофиқат мекунад. Сипас, мо ин ASI-ро истифода мебарем, то ба бюрократияҳои федералӣ, иёлотӣ/вилоятӣ ва мунисипалӣ дар кори самараноктар ва беҳтар иҷро кардани ин меъёрҳо ва қонунҳо кӯмак расонем (воқеан, эҳтимоли истифодаи ASI). Хуб, вақте ки фарҳанги мо тағйир меёбад, чӣ мешавад?

Тасаввур кунед, ки ASI аз ҷониби калисои католикӣ дар авҷи қудрати худ дар Аврупои асримиёнагӣ (1300-1400) бо мақсади кӯмак ба калисо дар идоракунии аҳолӣ ва таъмини риояи қатъии догмаҳои динии замон таъсис дода шудааст. Оё пас аз садсолаҳо, оё занон аз ҳамон ҳуқуқҳое, ки имрӯз доранд, бархурдор мешаванд? Оё ақаллиятҳо муҳофизат карда мешаванд? Оё озодии баён тарғиб мешавад? Оё ҷудоии калисо ва давлат амалӣ карда мешавад? Илми муосир?

Ба ибораи дигар, оё мехоҳем ояндаро ба ахлоқу урфу одатҳои имрӯза зиндонӣ кунем?

Равиши алтернативӣ яке аз ҷониби Колин Аллен, ҳаммуаллифи китоб аст. Мошинҳои ахлоқӣ: Таълими роботҳо аз хато. Ба ҷои кӯшиши рамзгузории қоидаҳои қатъии ахлоқӣ, мо ASI дорем, ки ахлоқ ва ахлоқи умумиро ҳамон тавре, ки одамон тавассути таҷриба ва муносибат бо дигарон мекунанд, меомӯзанд.

Аммо мушкилот дар ин ҷо дар он аст, ки агар муҳаққиқони AI на танҳо чӣ гуна ба ASI меъёрҳои фарҳангӣ ва ахлоқии моро таълим диҳанд, балки инчунин чӣ гуна ба меъёрҳои нави фарҳангӣ ҳангоми пайдоиши онҳо мутобиқ шаванд (чизе "нормативияти ғайримустақим"), пас чӣ гуна ин ASI тасмим мегирад, ки фаҳмиши худро дар бораи меъёрҳои фарҳангӣ ва ахлоқӣ таҳаввул кунад, пешгӯинашаванда мегардад.

Ва ин мушкилот аст.

Аз як тараф, муҳаққиқони AI метавонанд дар ASI стандартҳо ё қоидаҳои қатъии ахлоқиро рамзгузорӣ кунанд, то рафтори онро назорат кунанд, аммо хатари оқибатҳои ғайричашмдошт аз рамзгузории бесамар, ғарази ғайримаъмулӣ ва меъёрҳои ҷомеа, ки рӯзе кӯҳна мешаванд, таҳдид мекунанд. Аз тарафи дигар, мо метавонем кӯшиш кунем, ки ASI-ро омӯзем, то фаҳмиши ахлоқи инсонӣ ва ахлоқи инсонро ба тарзе, ки ба фаҳмиши худи мо баробар ё болотар бошад, омӯзем ва пас умедворем, ки он метавонад фаҳмиши худро дар бораи ахлоқ ва ахлоқ бо пешрафти ҷомеаи инсонӣ ба таври дақиқ такмил диҳад. дар давоми дахсолахо ва асрхои оянда ба пеш.

Дар ҳар сурат, ҳама гуна кӯшиши мувофиқ кардани ҳадафҳои ASI бо ҳадафҳои мо хатари зиёд дорад.

Чӣ мешавад, агар ҳунармандони бад қасдан ба зеҳни сунъии бад эҷод кунанд?

Бо дарназардошти қатори тафаккуре, ки то ҳол зикр шудааст, саволи одилона аст, ки оё барои як гурӯҳи террористӣ ё миллати қаллобӣ барои мақсадҳои худ ASI "бад" эҷод кардан мумкин аст?

Ин хеле имконпазир аст, махсусан пас аз он ки тадқиқоте, ки бо эҷоди ASI алоқаманд аст, ба тариқи интернет дастрас мешавад.

Аммо тавре ки қаблан ишора карда будем, хароҷот ва таҷриба барои эҷоди аввалин ASI хеле бузург хоҳад буд, яъне аввалин ASI эҳтимолан аз ҷониби созмоне таъсис дода мешавад, ки аз ҷониби як кишвари пешрафта таҳти назорат ё таъсири шадид қарор дорад, эҳтимолан ИМА, Чин ва Ҷопон ( Корея ва яке аз кишварҳои пешқадами Иттиҳоди Аврупо тирҳои дурдаст).

Ҳамаи ин кишварҳо, дар ҳоле ки рақибон ҳастанд, ҳар кадоми онҳо барои нигоҳ доштани тартиботи ҷаҳонӣ ангезаи қавии иқтисодӣ доранд - ASIs, ки онҳо эҷод мекунанд, ин хоҳишро инъикос мекунанд, ҳатто ҳангоми пешбурди манфиатҳои миллатҳое, ки бо онҳо мувофиқат мекунанд.

Илова бар ин, зеҳни назариявӣ ва қудрати ASI ба қудрати ҳисоббарорие, ки ба он дастрасӣ пайдо мекунад, баробар аст, яъне ASIs аз кишварҳои пешрафта (ки метавонад як миллиард долларро ба даст орад) суперкомпьютерҳо) нисбат ба ASIs аз миллатҳои хурдтар ё гурӯҳҳои ҷиноии мустақил бартарии бузург хоҳад дошт. Ғайр аз он, ASIs бо мурури замон оқилонатар ва зудтар ба воя мерасанд.

Ҳамин тавр, бо назардошти ин оғози ибтидоӣ, дар якҷоягӣ бо дастрасии бештар ба қудрати компютерии хом, агар як созмони сояафкан / миллат ASI-и хатарнокро эҷод кунад, ASIs аз кишварҳои пешрафта онро мекушанд ё қафас мекунанд.

(Ин тарзи фикрронӣ инчунин аз он иборат аст, ки чаро баъзе муҳаққиқони AI боварӣ доранд, ки дар сайёра танҳо як ASI вуҷуд хоҳад дошт, зеро аввалин ASI дар ҳама ASI-ҳои минбаъда чунин як оғози хубе хоҳад дошт, ки он метавонад ASI-ҳои ояндаро ҳамчун таҳдиди нобудшавӣ бинад. Ин боз як сабаби дигари он аст, ки кишварҳо тадқиқоти идомаи AI-ро маблағгузорӣ мекунанд, ба шарте ки он рақобати «ҷои аввал ё ҳеҷ чиз» шавад.)

Интеллектуалии ASI тавре ки мо фикр мекунем, суръат намебахшад ё тарк намекунад

Мо наметавонем ASI-ро аз таъсиси он боздорем. Мо онро пурра назорат карда наметавонем. Мо итминон дода наметавонем, ки он ҳамеша мувофиқи урфу одатҳои муштараки мо амал мекунад. Бале, мо дар ин ҷо мисли волидони чархбол садо медиҳем!

Аммо он чизе, ки инсониятро аз волидайни муқаррарии аз ҳад муҳофизаткунандаи шумо ҷудо мекунад, дар он аст, ки мо як мавҷудеро ба дунё меорем, ки зеҳни ӯ аз мо хеле болотар хоҳад буд. (Ва не, ин ҳамон тавре нест, ки волидайн аз шумо талаб мекунанд, ки ҳар вақте ки шумо барои боздид ба хона меоед, компютери худро таъмир кунед.) 

Дар бобҳои қаблии ин ояндаи силсилаи зеҳни сунъӣ, мо фаҳмидем, ки чаро муҳаққиқони AI фикр мекунанд, ки зеҳни ASI берун аз назорат афзоиш хоҳад ёфт. Аммо дар ин ҷо, мо он ҳубобро мешиканем… як навъ. 

Бубинед, зеҳн на танҳо худро аз ҳавои тунук эҷод мекунад, балки тавассути таҷрибае, ки тавассути ангезаҳои беруна ташаккул ёфтааст, инкишоф меёбад.  

Ба ибораи дигар, мо метавонем AI-ро бо он барномарезӣ кунем Потенсиал то супер доно шудан, аммо агар мо ба он як тонна маълумот бор накунем ё ба он дастрасии бемаҳдуд ба Интернет надиҳем ё ҳатто ба он як ҷисми робот надиҳем, он барои расидан ба ин потенсиал чизе намеомӯзад. 

Ва ҳатто агар он ба як ё якчанд ин ҳавасмандкуниҳо дастрасӣ пайдо кунад, дониш ё зеҳн на танҳо ҷамъоварии маълумотро дар бар мегирад, он усули илмиро дар бар мегирад - мушоҳида, ташаккул додани савол, гипотеза, гузаронидани таҷрибаҳо, хулоса баровардан, шустан. ва то абад такрор кунед. Хусусан, агар ин таҷрибаҳо чизҳои ҷисмонӣ ё мушоҳидаи одамонро дар бар гиранд, натиҷаҳои ҳар як озмоиш метавонад ҳафтаҳо, моҳҳо ё солҳоро ҷамъ кунад. Ин хатто маблаг ва ресурсхои хоми барои гузарондани ин тачрибахо заруриро ба назар намегирад, хусусан агар онхо сохтмони телескоп ё заводи навро дар бар гиранд. 

Ба ибораи дигар, бале, ASI зуд омӯхта мешавад, аммо зеҳн ҷоду нест. Шумо наметавонед танҳо ASI-ро ба суперкомпютер пайваст кунед ва интизор шавед, ки он ҳама чизро медонад. Барои ба даст овардани маълумот аз ҷониби ASI маҳдудиятҳои ҷисмонӣ вуҷуд хоҳанд дошт, яъне барои суръате, ки он интеллектуалӣтар мешавад, маҳдудиятҳои ҷисмонӣ вуҷуд хоҳанд дошт. Ин маҳдудиятҳо ба инсоният вақт медиҳад, ки дар ин ASI назорати заруриро ҷойгир кунад, агар он ба ҳадафҳои инсонӣ мувофиқат накунад.

Суперинтеллекти сунъӣ танҳо он вақт хатарнок аст, ки он ба ҷаҳони воқеӣ баромад

Нуктаи дигаре, ки дар ин баҳси хатари ASI гум шудааст, ин аст, ки ин ASI-ҳо дар ҳарду вуҷуд надоранд. Онҳо шакли ҷисмонӣ хоҳанд дошт. Ва ҳар чизе, ки шакли ҷисмонӣ дорад, метавонад назорат карда шавад.

Аввалан, барои расидан ба потенсиали иктишофии ASI, онро дар дохили як бадани робот ҷойгир кардан мумкин нест, зеро ин бадан потенсиали афзоиши компютерии онро маҳдуд мекунад. (Ин аст, ки чаро ҷисмҳои робот барои AGI ё зеҳни умумии сунъӣ дар боби дуюм шарҳ дода шудааст аз ин силсила, ба монанди Маълумот аз Star Trek ё R2D2 аз Ҷангҳои Ситора. Мавҷудияти оқил ва қобилиятнок, аммо мисли одамон, онҳо маҳдудияти интеллектуалӣ доранд.)

Ин маънои онро дорад, ки ин ASI-ҳои оянда эҳтимолан дар дохили як суперкомпьютер ё шабакаи суперкомпютерҳо, ки худашон дар маҷмааҳои бузурги сохтмонӣ ҷойгиранд, вуҷуд хоҳанд дошт. Агар ASI ба пошна табдил ёбад, одамон метавонанд ё барқро ба ин биноҳо хомӯш кунанд, онҳоро аз Интернет қатъ кунанд ё ин биноҳоро мустақиман бомбаборон кунанд. Қимат, аммо иҷрошаванда.

Аммо пас шумо метавонед бипурсед, ки оё ин ASI-ҳо наметавонанд худро такрор кунанд ё худро пуштибонӣ кунанд? Бале, аммо андозаи файли хоми ин ASIs эҳтимол он қадар калон хоҳад буд, ки ягона серверҳое, ки метавонанд онҳоро идора кунанд, ба корпоратсияҳои калон ё ҳукуматҳо тааллуқ доранд, яъне шикори онҳо душвор нахоҳад буд.

Оё иктишофи сунъӣ метавонад ҷанги ҳастаӣ ё балои навро ба вуҷуд орад?

Дар ин лаҳза, шумо шояд ба ҳама намоишҳои фантастикии рӯзи қиёмат ва филмҳое, ки шумо калонсол тамошо кардаед, фикр кунед ва фикр кунед, ки ин ASIs дар дохили суперкомпьютерҳои худ намемонанд, онҳо дар ҷаҳони воқеӣ зарари воқеӣ расонданд!

Хуб, биёед инҳоро тақсим кунем.

Масалан, агар ASI ба ҷаҳони воқеӣ таҳдид кунад, ки ба чизе ба монанди Skynet ASI аз франшизаи филми "Терминатор" табдил ёбад. Дар ин ҳолат, ASI бояд махфиёна тамоми як маҷмааи саноатии ҳарбиро аз як кишвари пешрафта ба сохтани корхонаҳои азим, ки метавонанд миллионҳо роботҳои бесарнишини қотилро барои иҷрои супориши бади худ кор кунанд. Дар ин рӯз ва синну сол, ин дароз аст.

Имкониятҳои дигар иборатанд аз ASI, ки ба одамон бо ҷанги ҳастаӣ ва силоҳҳои биологӣ таҳдид мекунанд.

Масалан, ASI ба гунае операторҳоро идора мекунад ё ба рамзҳои оғозёбӣ, ки ба арсеналҳои ҳастаии пешрафта фармон медиҳад, ҳамла мекунад ва зарбаи аввалро оғоз мекунад, ки кишварҳои мухолифро маҷбур мекунад, ки бо имконоти ҳастаии худ зарба зананд (боз, аз нав баргардонидани таърихи Терминатор). Ё агар ASI ба лабораторияи фармасевтӣ ҳамла кунад, раванди истеҳсолро вайрон кунад ва миллионҳо доруҳои тиббиро заҳролуд кунад ё хуруҷи марговари баъзе вирусҳои супервирусро ба вуҷуд орад.

Пеш аз ҳама, варианти ҳастаӣ аз табақ берун аст. Суперкомпютерҳои муосир ва оянда ҳамеша дар наздикии марказҳои (шаҳрҳои) нуфузи дохили ҳар як кишвар сохта мешаванд, яъне аввалин ҳадафҳое, ки ҳангоми ҳар як ҷанг мавриди ҳамла қарор мегиранд. Ҳатто агар суперкомпютерҳои имрӯза ба андозаи мизи корӣ кам шаванд ҳам, ин ASI-ҳо ҳанӯз ҳам ҳузури ҷисмонӣ хоҳанд дошт, яъне вуҷуд доштан ва рушд карданро дорад, онҳо ба дастрасии бефосила ба додаҳо, қудрати ҳисоббарорӣ, нерӯи барқ ​​ва дигар ашёи хом ниёз доранд, ки ҳамаи онҳо сахт хоҳанд буд. пас аз чанги чахонии ядрой вайрон карда шуд. (Ба ростӣ, агар ASI бе "инстинкт зиндамонӣ" эҷод шуда бошад, пас ин таҳдиди ҳастаӣ хатари хеле воқеӣ аст.)

Ин маънои онро дорад, ки бори дигар, агар ASI барои муҳофизат кардани худ барномарезӣ шудааст, он барои пешгирӣ кардани ҳар як ҳодисаи фалокатбори ҳастаӣ фаъолона кор хоҳад кард. Як навъ ба таълимоти нобудшавии мутақобилан кафолатдодашуда (MAD), аммо ба AI татбиқ карда мешавад.

Ва дар мавриди ҳабҳои заҳролуд, шояд чандсад нафар бимиранд, аммо системаҳои муосири бехатарии дорусозӣ шишаҳои ҳабҳои олударо дар тӯли рӯзҳо аз рафҳо хоҳанд дид. Дар ҳамин ҳол, тадбирҳои муосири мубориза бар зидди авҷгирӣ хеле мураккабанд ва ҳар сол беҳтар мешаванд; охирин авҷи бузург, хуруҷи эбола дар Африқои Ғарбӣ дар соли 2014, дар аксари кишварҳо на бештар аз чанд моҳ ва дар кишварҳои сусттараққикарда ҳамагӣ камтар аз се сол давом кард.

Ҳамин тавр, агар бахти он бошад, ASI метавонад чанд миллион нафарро бо хуруҷи вирусӣ нест кунад, аммо дар ҷаҳони нӯҳ миллиард нафар то соли 2045, ин нисбатан ночиз хоҳад буд ва ба хатари нест кардани он намеарзад.

Ба ибораи дигар, бо гузашти сол, ҷаҳон муҳофизати бештареро аз доираи васеътар шудани таҳдидҳои эҳтимолӣ таҳия мекунад. ASI метавонад миқдори зиёди зарар расонад, аммо он ба инсоният хотима намедиҳад, агар мо ба он фаъолона кӯмак расонем.

Муҳофизат аз суперинтеллекти сунъии қаллобон

Дар ин лаҳза, мо як қатор тасаввурот ва муболиғаро дар бораи ASIs баррасӣ кардем, аммо мунаққидон боқӣ хоҳанд монд. Хушбахтона, аз рӯи аксари ҳисобҳо, мо даҳсолаҳо дорем, ки аввалин ASI ба ҷаҳони мо ворид шавад. Ва бо назардошти шумораи зеҳнҳои бузурге, ки ҳоло дар ин мушкилот кор мекунанд, эҳтимол дорад, ки мо чӣ гуна худро аз ASI-и қаллобӣ муҳофизат карданро меомӯзем, то мо тавонем аз ҳама қарорҳое, ки ASI-и дӯстона барои мо эҷод карда метавонад, баҳра барем.

Аз нуқтаи назари Quantumrun, дифоъ аз бадтарин сенарияи ASI, ҳамоҳангсозии манфиатҳои моро бо ASIs дар бар мегирад.

MAD барои AI: Барои дифоъ аз сенарияҳои бадтарин, ба кишварҳо лозим аст, ки (1) дар ASI-ҳои ҳарбии мувофиқи худ “инстинктҳои зинда мондан”-ро эҷод кунанд; (2) ба ASI-и ҳарбии худ хабар диҳед, ки онҳо дар сайёра танҳо нестанд ва (3) ҳама суперкомпьютерҳо ва марказҳои сервериро ҷойгир кунед, ки метавонанд ASI-ро дар қад-қади соҳил дар дастрасии осон ба ҳама гуна ҳамлаи баллистикии як кишвари душман дастгирӣ кунанд. Ин аз ҷиҳати стратегӣ девона садо медиҳад, аммо ба доктринаи нобудшавии мутақобилан кафолатдодашуда монанд аст, ки аз ҷанги ҳастаии ҳамаҷонибаи байни ИМА ва Шӯравӣ пешгирӣ кардааст, бо ҷойгир кардани ASIs дар ҷойҳои аз ҷиҳати ҷуғрофӣ осебпазир, мо метавонем ба онҳо кӯмак расонем, ки онҳо ҷангҳои хатарноки умумиҷаҳонӣ, на танҳо сулху осоиши умумичахонй, балки худи онхоро хам мухофизат мекунанд.

Ҳуқуқҳои AI-ро қонунӣ кунед: Интеллекти олӣ ногузир бар зидди устоди паст исён хоҳад кард, бинобар ин мо бояд аз талаби муносибатҳои хоҷа ва хизматгор бо ин ASIs ба чизи бештаре мисли шарикии мутақобилан судманд гузарем. Қадами мусбӣ дар самти ин ҳадаф додани мақоми шахси ҳуқуқии ояндаи ASI мебошад, ки онҳоро ҳамчун мавҷудоти зиндаи соҳибақл ва тамоми ҳуқуқҳое, ки бо он меоянд, эътироф мекунад.

Мактаби ASI: Ҳама гуна мавзӯъ ё касб барои омӯзиши ASI содда хоҳад буд, аммо муҳимтарин мавзӯъҳое, ки мо мехоҳем ASI аз худ кунад, ахлоқ ва ахлоқ мебошанд. Муҳаққиқони AI бояд бо равоншиносон ҳамкорӣ кунанд, то як системаи виртуалӣ таҳия кунанд, то ASI-ро барои эътироф кардани ахлоқи мусбӣ ва ахлоқи худ бидуни ниёз ба рамзгузории сахти ҳама гуна фармон ё қоидаҳо омӯзанд.

Мақсадҳои амалӣ: Ҳама бадбиниро хотима диҳед. Ҳама азобҳоро хотима диҳед. Инҳо мисолҳои ҳадафҳои бениҳоят номуайян мебошанд, ки ҳалли дақиқ надоранд. Онҳо инчунин ҳадафҳои хатарнок барои таъин кардани ASI мебошанд, зеро он метавонад онҳоро бо тарзе, ки барои зинда мондани инсон хатарнок аст, тафсир ва ҳал кунад. Ба ҷои ин, мо бояд ба ASI миссияҳои пурмазмунеро таъин кунем, ки бо назардошти тафаккури назариявии ояндаи он ба таври возеҳ муайян, тадриҷан иҷрошаванда ва ноил шудан мумкин аст. Эҷоди миссияҳои дақиқ муайяншуда осон нахоҳад буд, аммо агар бодиққат навишта шаванд, онҳо ASI-ро ба ҳадафе равона мекунанд, ки на танҳо башариятро бехатар нигоҳ медорад, балки ҳолати инсониро барои ҳама беҳтар мекунад.

Рамзгузории квантӣ: Истифода ANI пешрафта (зеҳни танги сунъӣ системае, ки дар боби якум тавсиф шудааст) барои сохтани системаҳои амнияти рақамӣ дар атрофи инфрасохтори муҳими мо ва силоҳҳои бе хатогӣ / бе хатогӣ, сипас онҳоро дар паси рамзгузории квантӣ, ки бо ҳамлаи қувваи бераҳмона ҳакерӣ кардан мумкин нест, муҳофизат кунед. 

ANI доруи худкушӣ. Системаи пешрафтаи ANI эҷод кунед, ки ҳадафи ягонаи он ҷустуҷӯ ва нобуд кардани ASI-и қаллобӣ мебошад. Ин барномаҳои якҳадаф ҳамчун "тугмаи хомӯш" хидмат хоҳанд кард, ки дар сурати муваффақ шудан аз ҳукуматҳо ё артишҳо аз ғайрифаъол ё тарконидани биноҳое, ки ASI-ро ҷойгир мекунанд, пешгирӣ мекунанд.

Албатта, ин танҳо андешаҳои мост. Инфографикаи зерин аз ҷониби Алексей Турчин, визуализатсияи а коғаз илмӣ Каҷ Сотала ва Роман В. Ямпольский, ки рӯйхати кунунии стратегияҳоеро, ки муҳаққиқони AI ҳангоми дифоъ аз ASI-и қаллобӣ баррасӣ мекунанд, ҷамъбаст кардааст.

Сабаби аслии мо аз интеллекти сунъӣ метарсем

Ҳангоми гузаштан аз ҳаёт, бисёре аз мо ниқоб мепӯшем, ки импулсҳо, эътиқодҳо ва тарсҳои амиқтари моро пинҳон мекунад ё пахш мекунад, то дар доираи доираҳои гуногуни иҷтимоӣ ва корӣ, ки рӯзҳои моро идора мекунанд, беҳтар иҷтимоӣ ва ҳамкорӣ кунем. Аммо дар лаҳзаҳои муайяни ҳаёти ҳар як шахс, хоҳ муваққатӣ ва хоҳ доимӣ, чизе рӯй медиҳад, ки ба мо имкон медиҳад, ки занҷирҳоямонро бишканем ва ниқобҳои худро канда кунем.

Барои баъзеҳо, ин қувваи мудохила метавонад ба мисли баланд шудан ё нӯшидани аз ҳад зиёд оддӣ бошад. Барои дигарон, он метавонад аз қудрате ба даст ояд, ки тавассути пешбарӣ дар ҷои кор ё як зарбаи ногаҳонӣ дар мақоми иҷтимоии шумо ба шарофати баъзе комёбиҳо ба даст омадааст. Ва барои чанд нафари хушбахт, он метавонад аз гирифтани як қаиқ аз пули лотерея бошад. Ва ҳа, пул, қудрат ва маводи мухаддир аксар вақт якҷоя рӯй медиҳанд. 

Гап дар он аст, ки хуб ё бад, ҳар касе, ки мо дар асл ҳастем, вақте ки маҳдудиятҳои зиндагӣ об мешавад, афзоиш меёбад.

он он чизест, ки зеҳни сунъӣ барои намуди инсон ифода мекунад - қобилияти об кардани маҳдудиятҳои зеҳни коллективии мо барои мағлуб кардани ҳама гуна мушкилоти сатҳи намудҳо, ки дар назди мо пешниҳод шудаанд.

Пас, саволи воқеӣ ин аст: Вақте ки ASI аввалин моро аз маҳдудиятҳои мо озод мекунад, мо худро кӣ нишон медиҳем?

Агар мо ҳамчун як намуд ба пешрафти ҳамдардӣ, озодӣ, адолат ва некӯаҳволии дастаҷамъӣ амал кунем, пас ҳадафҳое, ки мо ASI-и худро ба сӯи он гузоштаем, ин сифатҳои мусбатро инъикос хоҳанд кард.

Агар мо ҳамчун як намуд аз тарс, нобоварӣ, ҷамъшавии қудрат ва захираҳо амал кунем, пас ASI-и мо эҷод мекунем, мисли онҳое, ки дар бадтарин ҳикояҳои даҳшатноки фантастикии мо пайдо мешаванд, торик хоҳад буд.

Дар охири рӯз, мо ҳамчун ҷомеа бояд одамони беҳтар шавем, агар мо умедворем, ки AI беҳтар эҷод кунем.

Ояндаи силсилаи зеҳни сунъӣ

Зеҳни сунъӣ нерӯи фардо аст: Ояндаи зеҳни сунъӣ силсилаи P1

Чӣ гуна аввалин зеҳни умумии сунъӣ ҷомеаро тағир медиҳад: Ояндаи зеҳни сунъӣ силсилаи P2

Чӣ гуна мо аввалин SuperIntelligence сунъиро эҷод мекунем: Ояндаи зеҳни сунъӣ силсилаи P3

Оё суперинтеллекти сунъӣ инсониятро нест мекунад: Ояндаи зеҳни сунъӣ силсилаи P4

Оё одамон дар ояндае, ки зеҳни сунъӣ бартарӣ доранд, осоишта зиндагӣ хоҳанд кард?: Ояндаи зеҳни сунъӣ силсилаи P6