Хиймэл оюун ухаанаас хүмүүс хэрхэн хамгаалах вэ: Хиймэл оюун ухааны ирээдүй P5

Он нь МЭӨ 65,000 XNUMX он бөгөөд а Thylacoleo, та болон таны төрөл төрөгсөд эртний Австралийн агуу анчид байсан. Та газар нутгаар чөлөөтэй тэнүүчилж, өөртэйгөө зэрэгцэн нутаглаж байсан махчин амьтад, олзтойгоо тэнцвэртэй амьдарч байсан. Улирал өөрчлөлтийг авчирсан ч та болон таны өвөг дээдэс санаж байх хугацаанд амьтны ертөнц дэх таны байр суурь маргаангүй хэвээр байв. Тэгээд нэг өдөр шинэ хүмүүс гарч ирэв.

Цуу яриагаар тэд аварга том усан хананаас ирсэн боловч эдгээр амьтад газар дээр амьдрахад илүү таатай санагдсан. Та эдгээр амьтдыг өөрөө харах ёстой байсан.

Хэд хоног зарцуулсан ч та эцэст нь далайн эрэгт хүрч чадсан. Тэнгэрт гал дүрэлзэж, эдгээр амьтдыг тагнаж, амтыг нь харахын тулд нэгийг нь идэж үзэхэд тохиромжтой цаг болжээ.

Та нэгийг олж хар.

Тэр хоёр хөл дээрээ алхаж, үслэг эдлэлгүй байв. Энэ нь сул харагдаж байсан. Сэтгэгдэлгүй. Энэ нь хаант улсын дунд айдас төрүүлж байсан нь үнэ цэнэтэй зүйл биш юм.

Шөнө гэрлийг хөөн зайлуулж байгаа тул та анхааралтай хандаж эхэлнэ. Та ойртож байна. Дараа нь чи хөлддөг. Чанга дуу чимээ гарч, дараа нь тэдний араас дөрвөн хүн гарч ирэв. Хэдэн хүн байгаа вэ?

Амьтан бусдыг дагаж модны шугам руу ороход та дагаж явна. Илүү ихийг хийх тусам та эдгээр амьтдын илүү олон зүйлийг олж харах хүртэл хачирхалтай дуу чимээ сонсох болно. Тэднийг ойгоос гараад эрэг хавийн хөндий рүү гарах үед та холоос дагаж явна. Тэдний олон бий. Гэхдээ хамгийн чухал нь тэд бүгд галын дэргэд тайван сууж байна.

Та эдгээр галыг өмнө нь харж байсан. Халуун улиралд тэнгэрт гал түймэр заримдаа газар дээр очиж, ой модыг бүхэлд нь шатаадаг. Нөгөө талаар эдгээр амьтад ямар нэгэн байдлаар үүнийг удирдаж байсан. Ямар амьтад ийм хүчийг эзэмшиж чадах вэ?

Та алсыг хар. Асар том усан ханыг давж илүү олон зүйл ирж байна.

Та нэг алхам ухрах хэрэгтэй.

Эдгээр амьтад хаант улсын бусад амьтадтай адилгүй. Тэд бол цоо шинэ зүйл юм.

Чи явахаар шийдэж, хамаатан садандаа сэрэмжлүүлээрэй. Хэрэв тэдний тоо хэт олширвол юу болохыг хэн мэдэх билээ.

***

Тилаколео нь Австрали тивийн бусад мегафаунагийн хамт хүн төрөлхтөн гарч ирснээс хойш харьцангуй богино хугацаанд устаж үгүй ​​болсон гэж үздэг. Бусад оргилын хөхтөн махчин амьтдын оронд ороогүй - хэрэв та энэ ангилалд хүмүүсийг тооцохгүй бол.

Энэхүү зүйрлэлийг тайлбарлах нь энэ цувралын гол сэдэв юм: Ирээдүйн хиймэл супер оюун ухаан (ASI) биднийг бүгдийг батерей болгон хувиргаж, дараа нь биднийг матрицад залгах уу эсвэл хүмүүс шинжлэх ухааны уран зөгнөлийн золиос болохоос зайлсхийх арга замыг олох уу? AI сүйрлийн тухай хуйвалдаан уу?

Одоогоор бидний цуврал дээр Хиймэл оюун ухааны ирээдүй, бид хиймэл оюун ухааны тодорхой нэг хэлбэр болох ASI буюу ирээдүйн оюун ухаан нь биднийг шоргоолж шиг харагдуулах хиймэл амьтан гэх мэт бүх төрлийн хиймэл оюун ухааныг судалсан.

Гэхдээ ийм ухаантай амьтан хүнээс захиалга авахыг үүрд хүлээж авна гэж хэн хэлэх вэ. Хэрэв бүх зүйл урагшилвал бид яах вэ? Хуурамч ASI-аас бид хэрхэн хамгаалах вэ?

Энэ бүлэгт бид "хүний ​​мөхлийн түвшин"-ийн аюултай холбоотой хуурамч шуугианыг таслан зогсоож, дэлхийн засгийн газруудад байдаг өөрийгөө хамгаалах бодит хувилбаруудад анхаарлаа хандуулах болно.

Бид хиймэл оюун ухааны талаар цаашдын бүх судалгааг зогсоож чадах уу?

ASI нь хүн төрөлхтөнд учирч болзошгүй эрсдэлийг харгалзан үзэхэд хамгийн түрүүнд асуух асуулт бол: Бид хиймэл оюун ухааны талаархи бүх судалгааг зогсоож болохгүй гэж үү? Эсвэл ядаж биднийг ASI-г бий болгоход аюултай ойртуулах аливаа судалгааг хориглох уу?

Богино хариулт: Үгүй.

Урт хариулт: Энд оролцож буй янз бүрийн тоглогчдыг харцгаая.

Судалгааны түвшинд өнөөдөр дэлхийн өнцөг булан бүрээс хэт олон гарааны бизнес, компани, их дээд сургуулийн AI судлаач дэндүү олон байна. Хэрэв нэг компани эсвэл улс хиймэл оюун ухааны судалгааны хүчин чармайлтаа хязгаарлахаар шийдсэн бол тэд өөр газар үргэлжлүүлэх болно.

Энэ хооронд манай гаригийн хамгийн үнэ цэнэтэй компаниуд хиймэл оюун ухааны системийг тодорхой бизнестээ ашигласнаараа баяжиж байна. Тэднээс хиймэл оюун ухааны хэрэгслийн хөгжлийг зогсоох эсвэл хязгаарлахыг хүсэх нь ирээдүйн өсөлтөө зогсоох эсвэл хязгаарлахыг тэднээс шаардаж байгаатай адил юм. Санхүүгийн хувьд энэ нь тэдний урт хугацааны бизнест заналхийлэх болно. Хуулийн дагуу корпорацууд оролцогч талууддаа үнэ цэнийг байнга бий болгохын тулд итгэмжлэгдсэн үүрэг хариуцлага хүлээдэг; Энэ нь тухайн үнийн өсөлтийг хязгаарлах аливаа үйлдэл нь шүүхэд хүргэж болзошгүй гэсэн үг юм. Хэрэв ямар нэгэн улстөрч хиймэл оюун ухааны судалгааг хязгаарлахыг оролдсон бол эдгээр аварга корпорациуд өөрсдийн санаа бодлыг эсвэл хамт ажиллагсдынхаа бодлыг өөрчлөхийн тулд шаардлагатай лоббины төлбөрийг төлөх болно.

Байлдааны хувьд дэлхийн өнцөг булан бүрт байгаа террористууд болон эрх чөлөөний төлөө тэмцэгчид илүү сайн санхүүждэг армитай тэмцэхийн тулд партизаны тактик ашигласантай адил жижиг улс орнууд цэргийн олон давуу талтай томоохон улсуудын эсрэг хиймэл оюун ухааныг ижил төстэй тактикийн давуу тал болгон ашиглах сонирхолтой байх болно. Үүний нэгэн адил АНУ, ОХУ, БНХАУ-ын цэргийн хүчнийхний хувьд цэргийн ASI байгуулах нь таны арын халаасанд цөмийн зэвсгийн арсенал байхтай адил юм. Өөрөөр хэлбэл, бүх арми ирээдүйд хамааралтай хэвээр байхын тулд хиймэл оюун ухааныг үргэлжлүүлэн санхүүжүүлнэ.

Засгийн газрууд яах вэ? Үнэнийг хэлэхэд, өнөө үед (2018) ихэнх улстөрчид технологийн хувьд бичиг үсэггүй, хиймэл оюун ухаан гэж юу болох, түүний ирээдүйн боломжийн талаар бага ойлголттой байдаг нь тэднийг компанийн ашиг сонирхлоор удирдахад хялбар болгодог.

Мөн дэлхийн хэмжээнд 2015 онд гарын үсэг зурахад дэлхийн засгийн газруудыг итгүүлэхэд хичнээн хэцүү байсныг бодоод үзээрэй Парисын гэрээ Уур амьсгалын өөрчлөлттэй тэмцэхийн тулд - мөн гарын үсэг зурсны дараа олон үүрэг хариуцлага хүлээхгүй байсан. Үүгээр ч зогсохгүй уур амьсгалын өөрчлөлт нь цаг уурын өөрчлөлт нь улам бүр ойр ойрхон, ширүүн цаг агаарын үзэгдлүүдийн улмаас дэлхийн хэмжээнд хүмүүсийн бие махбодид тулгардаг асуудал юм. Одоо хиймэл оюун ухааныг хязгаарлахыг зөвшөөрөх тухай ярихад энэ нь олон нийтэд үл үзэгдэх, бараг ойлгогдохгүй асуудал тул хиймэл оюун ухааныг хязгаарлах аливаа төрлийн "Парисын гэрээ"-нд хамрагдахад амжилт хүсье.

Өөрөөр хэлбэл, AI-г өөрийн зорилгодоо зориулж судлах сонирхол нь ASI-д хүргэж болзошгүй аливаа судалгааг зогсоохын тулд хэтэрхий олон сонирхолтой байдаг. 

Бид хиймэл оюун ухааныг торонд оруулж чадах уу?

Дараагийн үндэслэлтэй асуулт бол бид ASI-г зайлшгүй үүсгэсний дараа торонд оруулах эсвэл хянах боломжтой юу? 

Богино хариулт: Дахин хэлэхэд үгүй.

Урт хариулт: Технологийг барьж чадахгүй.

Нэгдүгээрт, шинэ програм хангамж эсвэл одоо байгаа програм хангамжийн шинэ хувилбаруудыг байнга гаргадаг дэлхийн мянгаас сая сая вэб хөгжүүлэгч, компьютер судлаачдыг авч үзье. Тэдний гаргасан програм хангамж бүр 100 хувь алдаагүй гэж бид шударгаар хэлж чадах уу? Эдгээр алдаанууд нь мэргэжлийн хакерууд олон сая хүний ​​зээлийн картын мэдээлэл эсвэл улс орнуудын нууцлагдмал нууцыг хулгайлахад ашигладаг зүйл бөгөөд эдгээр нь хүний ​​хакерууд юм. ASI-ийн хувьд дижитал торноосоо зугтах урам зоригтой гэж үзвэл алдааг олж, програм хангамжийг эвдэх үйл явц нь сэвшээ салхи байх болно.

Хэдийгээр хиймэл оюун ухааны судалгааны баг ASI-г хайрцаглах арга замыг олж мэдсэн ч энэ нь дараагийн 1,000 баг үүнийг олох эсвэл ашиглахад түлхэц болно гэсэн үг биш юм.

ASI-г бий болгоход хэдэн тэрбум доллар, магадгүй хэдэн арван жил шаардагдах болно. Ийм мөнгө, цаг хугацаа зарцуулсан корпорациуд эсвэл засгийн газрууд хөрөнгө оруулалтынхаа үр өгөөжийг их хэмжээгээр хүлээх болно. Хөрөнгийн зах зээл дээр тоглох, шинэ тэрбум долларын бүтээгдэхүүн зохион бүтээх, илүү том армитай тулалдах ялалтын стратеги төлөвлөх гэх мэт өгөөжтэй байхын тулд ASI-д аварга том мэдээллийн багц эсвэл бүр интернетэд үнэгүй нэвтрэх шаардлагатай болно. өөрөө тэдгээр өгөөжийг бий болгох.

Нэгэнт ASI нь дэлхийн сүлжээнд нэвтрэх боломжтой болвол бид үүнийг торонд нь хийж чадна гэсэн баталгаа байхгүй.

Хиймэл оюун ухаан сайн байхыг сурч чадах уу?

Яг одоо хиймэл оюун ухаан судлаачид ASI-г хорон муу болох вий гэж санаа зовохгүй байна. Бүхэл бүтэн хорон санаа, хиймэл оюун ухааны уран зөгнөлт зохиол бол зүгээр л хүн төрөлхтний дахин антропоморфизм юм. Ирээдүйн ASI нь сайн эсвэл муу аль нь ч биш, хүний ​​ойлголтууд - зүгээр л ёс суртахуунгүй байх болно.

Энэхүү ёс суртахууны хоосон хуудсыг харгалзан хиймэл оюун ухаан судлаачид бидний өөрсдийнхтэй нийцсэн анхны ASI ёс зүйн кодуудыг програмчилж болох бөгөөд энэ нь эцсийн эцэст Терминаторуудыг бидэн дээр буулгахгүй, эсвэл бүгдийг Матрицын батерей болгон хувиргахгүй гэсэн байгалийн таамаглал юм.

Гэхдээ энэ таамаглал нь хиймэл оюун ухаан судлаачид ёс зүй, гүн ухаан, сэтгэл судлалын чиглэлээр мэргэшсэн мэргэжилтнүүд гэсэн хоёрдогч таамаглалыг бий болгодог.

Үнэнийг хэлэхэд ихэнх нь тийм биш.

Танин мэдэхүйн сэтгэл зүйч, зохиолч Стивен Пинкерийн хэлснээр, энэ бодит байдал нь ёс зүйг кодлох ажил янз бүрийн аргаар буруугаар явж болно гэсэн үг юм.

Жишээлбэл, хамгийн сайн санаатай хиймэл оюун ухаан судлаачид ч гэсэн санамсаргүйгээр ASI-ийг муу бодож боловсруулсан ёс зүйн дүрмийг санамсаргүйгээр кодлодог бөгөөд энэ нь зарим тохиолдолд ASI-г социопат шиг ажиллахад хүргэдэг.

Үүний нэгэн адил хиймэл оюун ухаан судлаач нь судлаачийн төрөлхийн хэвшмэл хандлагыг агуулсан ёс зүйн дүрмийг программчлах магадлал ижил байдаг. Жишээлбэл, консерватив ба либерал үзэл баримтлал, Буддист ба Христийн болон Исламын уламжлалаас үүдэлтэй ёс зүйгээр баригдсан бол ASI хэрхэн ажиллах вэ?

Та эндээс асуудлыг харж байна гэж бодож байна: Хүний ёс суртахууны бүх нийтийн багц байдаггүй. Хэрэв бид ASI-г ёс зүйн дүрмээр ажиллахыг хүсч байгаа бол энэ нь хаанаас гарах вэ? Бид ямар дүрмийг оруулж, хасах вэ? Хэн шийдэх вэ?

Эсвэл эдгээр хиймэл оюун ухаан судлаачид өнөөгийн орчин үеийн соёлын хэм хэмжээ, хууль тогтоомжид бүрэн нийцсэн ASI-г бүтээдэг гэж бодъё. Дараа нь бид холбооны, муж/аймаг, хотын хүнд суртал илүү үр дүнтэй ажиллаж, эдгээр хэм хэмжээ, хуулийг илүү сайн хэрэгжүүлэхэд нь туслах зорилгоор энэхүү ASI-г ашигладаг (Дашрамд хэлэхэд, ASI-г ашиглах магадлалтай). За тэгээд манай соёл өөрчлөгдвөл яах вэ?

ASI-г Дундад зууны Европт (1300-1400-аад он) католик сүм хүч чадлынхаа оргил үед бий болгож, сүмд хүн амыг удирдахад нь туслах, тухайн үеийн шашны сургаалыг чанд мөрдөхийг хангах зорилготой гэж төсөөлөөд үз дээ. Олон зуун жилийн дараа эмэгтэйчүүд өнөөдрийнхтэй адил эрх эдлэх болов уу? Цөөнхүүдийг хамгаалах уу? Үг хэлэх эрх чөлөөг дэмжих үү? Сүм ба төрийг тусгаарлахыг хэрэгжүүлэх үү? Орчин үеийн шинжлэх ухаан?

Өөрөөр хэлбэл, өнөөдрийн ёс суртахуун, зан заншилд ирээдүйгээ шоронд хиймээр байна уу?

Альтернатив арга бол номын хамтран зохиогч Колин Аллены хуваалцсан арга юм. Ёс суртахууны машинууд: Роботуудыг зөв буруугаас нь заах нь. Ёс суртахууны хатуу дүрмийг кодлохыг оролдохын оронд бид ASI-г хүмүүстэй адил туршлага, бусадтай харилцах замаар нийтлэг ёс зүй, ёс суртахууныг сурдаг.

Энд байгаа асуудал бол хиймэл оюун ухаан судлаачид зөвхөн ASI-д бидний одоогийн соёл, ёс зүйн хэм хэмжээг хэрхэн заах төдийгүй, шинээр бий болсон соёлын хэм хэмжээнд хэрхэн дасан зохицохыг ("шууд бус хэм хэмжээ" гэж нэрлэдэг зүйл) олж мэдсэн бол яаж хийх вэ? Энэхүү ASI нь соёл, ёс зүйн хэм хэмжээний талаарх ойлголтоо өөрчлөхөөр шийдсэн нь урьдчилан таамаглах аргагүй болдог.

Энэ бол сорилт юм.

Нэг талаас, хиймэл оюун ухаан судлаачид ASI-д ёс суртахууны хатуу стандарт эсвэл дүрмийг кодлохыг оролдож, түүний зан төлөвийг хянах боломжтой боловч санамсаргүй кодчилол, санамсаргүй хандлага, нийгмийн хэм хэмжээ нь хэзээ нэгэн цагт хуучирч болзошгүй тул урьдчилан тооцоолоогүй үр дагаварт хүргэж болзошгүй юм. Нөгөөтэйгүүр, бид хүний ​​ёс суртахуун, ёс суртахууныг өөрсдийнхөө ойлголттой тэнцэхүйц юм уу түүнээс давсан байдлаар ойлгож сурахад ASI-г сургах оролдлого хийж, улмаар хүний ​​нийгэм хөгжихийн хэрээр ёс зүй, ёс суртахууны талаарх ойлголтоо үнэн зөвөөр хөгжүүлнэ гэж найдаж болно. ойрын хэдэн арван жил, зуунд урагшлах.

Аль ч тохиолдолд ASI-ийн зорилгыг бидний зорилгод нийцүүлэх оролдлого нь маш их эрсдэл дагуулдаг.

Хэрэв муу жүжигчид зориудаар муу хиймэл оюун ухааныг бий болговол яах вэ?

Өнөөг хүртэл тайлбарласан бодлын галт тэрэгнээс харахад террорист бүлэглэл эсвэл луйварчин үндэстэн өөрсдийн зорилгодоо "муу" ASI-г бий болгож чадах уу гэж асуух нь шударга асуулт юм.

Энэ нь маш боломжтой, ялангуяа ASI-г бий болгохтой холбоотой судалгааг ямар нэгэн байдлаар онлайнаар ашиглах боломжтой болсны дараа.

Гэхдээ дээр дурьдсанчлан анхны ASI-г бий болгоход шаардагдах зардал, туршлага асар их байх бөгөөд энэ нь АНУ, Хятад, Япон зэрэг хөгжингүй орнуудын хяналтанд байдаг эсвэл ихээхэн нөлөөлсөн байгууллага анхны ASI-г бий болгоно гэсэн үг юм. Солонгос болон ЕХ-ны тэргүүлэгч орнуудын нэг нь холын зайн шидэлт юм).

Эдгээр бүх улс орнууд өрсөлдөгчид хэдий ч дэлхийн дэг журмыг сахиулах эдийн засгийн хүчтэй хөшүүрэгтэй байдаг - тэдний бий болгосон ASI-ууд нь өөрсдийнхөө нэгдэж буй үндэстнүүдийн ашиг сонирхлыг дэмжихийн зэрэгцээ энэхүү хүслийг тусгах болно.

Дээрээс нь, ASI-ийн онолын оюун ухаан, хүч чадал нь түүний хүртээмжтэй тооцоолох чадвартай тэнцүү бөгөөд энэ нь хөгжингүй орнуудын ASI-тай (энэ нь олон тэрбум доллар төлж чаддаг) гэсэн үг юм. супер компьютерууд) жижиг улсууд эсвэл бие даасан гэмт хэргийн бүлэглэлийн ASI-аас асар их давуу талтай байх болно. Түүнчлэн, ASI-ууд цаг хугацааны явцад илүү ухаалаг болж, илүү хурдан өсдөг.

Тиймээс, энэ эхлэлийг, түүхий тооцооллын хүчин чадалд илүү их хүртээмжтэй хослуулсан тохиолдолд сүүдэртэй байгууллага/улснууд аюултай ASI-г бий болговол хөгжингүй орнуудын ASI-ууд түүнийг устгах эсвэл торонд оруулах болно.

(Энэхүү бодол санаа нь зарим хиймэл оюун ухаан судлаачид яагаад дэлхий дээр ганцхан ASI-г бий болгоно гэж үзэж байгаа юм, учир нь анхны ASI нь дараагийн бүх ASI-г амжилттай эхлүүлж, ирээдүйн ASI-г устгах аюул гэж үзэж магадгүй юм. Энэ нь улс орнууд хиймэл оюун ухааныг "эхний байр эсвэл юу ч биш" өрсөлдөөн болох вий гэсэн үүднээс үргэлжлүүлэн судалгааг санхүүжүүлж байгаагийн бас нэг шалтгаан юм.)

ASI тагнуул нь бидний бодож байгаа шиг хурдасч, тэсэрч чадахгүй

Бид ASI-г үүсгэхийг зогсоож чадахгүй. Бид үүнийг бүрэн хянаж чадахгүй. Энэ нь бидний нийтлэг зан заншлын дагуу үргэлж ажиллана гэдэгт бид итгэлтэй байж чадахгүй. Хөөх, бид энд нисдэг тэрэгний эцэг эх шиг сонсогдож эхэлж байна!

Гэхдээ хүн төрөлхтнийг таны ердийн хэт хамгаалалттай эцэг эхээс ялгаж буй зүйл бол бид оюун ухаан нь биднийхээс асар их өсөх оршихуйг төрүүлж байгаа явдал юм. (Үгүй ээ, энэ нь таныг гэртээ ирэх болгонд эцэг эх чинь компьютерээ засахыг шаарддагтай адил биш юм.) 

Энэхүү ирээдүйн хиймэл оюун ухааны цувралын өмнөх бүлгүүдэд бид хиймэл оюун ухаан судлаачид яагаад ASI-ийн оюун ухаан хяналтаас гадуур өснө гэж бодож байгааг судалж үзсэн. Гэхдээ энд бид тэр хөөсийг хагалах болно ... нэг төрлийн. 

Та харж байна уу, оюун ухаан нь зөвхөн агаараас өөрийгөө бий болгодоггүй, энэ нь гадны өдөөлтөөр бий болсон туршлагаар хөгждөг.  

Өөрөөр хэлбэл, бид хиймэл оюун ухааныг програмчлах боломжтой боломжит Хэт ухаалаг болохын тулд, гэхдээ бид түүнд олон тонн өгөгдөл оруулахгүй, интернетэд хязгаарлалтгүй нэвтрэх боломжийг олгохгүй бол, тэр ч байтугай роботын биеийг өгөхгүй бол тэр энэ боломжид хүрэхийн тулд юу ч сурахгүй. 

Эдгээр өдөөгч хүчин зүйлсийн аль нэгийг нь олж авсан ч гэсэн мэдлэг, оюун ухаан нь зөвхөн өгөгдөл цуглуулахаас илүүтэй шинжлэх ухааны аргыг хамардаг - ажиглалт хийх, асуулт, таамаглал дэвшүүлэх, туршилт хийх, дүгнэлт гаргах, угаах. мөн үүрд давт. Ялангуяа эдгээр туршилтууд нь биет зүйл эсвэл хүнийг ажиглахтай холбоотой бол туршилт бүрийн үр дүнг цуглуулахад долоо хоног, сар, жил шаардагдана. Энэ нь эдгээр туршилтыг хийхэд шаардагдах мөнгө, түүхий нөөцийг ч тооцдоггүй, ялангуяа шинэ дуран эсвэл үйлдвэр барихтай холбоотой юм. 

Өөрөөр хэлбэл, тийм ээ, ASI хурдан сурах болно, гэхдээ оюун ухаан бол ид шид биш юм. Та зүгээр л ASI-г суперкомпьютерт холбож, үүнийг бүгдийг мэддэг байх гэж найдаж болохгүй. ASI-д өгөгдөл олж авахад физик хязгаарлалт байх бөгөөд энэ нь илүү ухаалаг болж өсөх хурдад физик хязгаарлалт байх болно гэсэн үг юм. Эдгээр хязгаарлалтууд нь хүн төрөлхтөнд энэхүү ASI нь хүний ​​зорилгод нийцэхгүй ажиллаж эхэлбэл шаардлагатай хяналтыг тавих цагийг өгөх болно.

Хиймэл оюун ухаан нь бодит ертөнцөд гарч ирвэл л аюултай

Энэхүү ASI-ийн аюулын тухай маргаанд алдагдсан өөр нэг зүйл бол эдгээр ASI-ууд аль алинд нь байхгүй болно. Тэд бие махбодийн хэлбэртэй байх болно. Мөн физик хэлбэртэй аливаа зүйлийг хянах боломжтой.

Нэгдүгээрт, ASI нь өөрийн оюун ухааны чадавхидаа хүрэхийн тулд үүнийг нэг роботын биед байрлуулах боломжгүй, учир нь энэ бие нь түүний тооцооллын өсөлтийг хязгаарлах болно. (Ийм учраас роботын биетүүд нь AGI эсвэл Хоёрдугаар бүлэгт тайлбарласан хиймэл ерөнхий оюун ухаан Энэ цувралын тухайлбал Star Trek-ийн өгөгдөл эсвэл Оддын дайнаас R2D2. Ухаалаг, чадвартай амьтад, гэхдээ хүмүүстэй адил тэд хэр зэрэг ухаантай болохдоо хязгаартай байх болно.)

Энэ нь эдгээр ирээдүйн ASI-ууд нь томоохон барилгын цогцолборуудад байрладаг супер компьютер эсвэл суперкомпьютеруудын сүлжээнд байх магадлалтай гэсэн үг юм. Хэрэв ASI нь өсгийтэй байвал хүмүүс эдгээр барилгуудын цахилгааныг унтрааж, интернетээс салгаж эсвэл зүгээр л эдгээр барилгуудыг шууд бөмбөгдөж болно. Үнэтэй, гэхдээ хийх боломжтой.

Гэхдээ дараа нь та эдгээр ASI-ууд өөрсдийгөө хуулбарлаж эсвэл нөөцөлж чадахгүй гэж асууж магадгүй юм. Тийм ээ, гэхдээ эдгээр ASI-ийн түүхий файлын хэмжээ нь маш том байх тул тэдгээрийг зохицуулах цорын ганц серверүүд нь томоохон корпорациуд эсвэл засгийн газруудад харьяалагддаг тул тэднийг хайхад хэцүү биш байх болно.

Хиймэл оюун ухаан нь цөмийн дайн эсвэл шинэ тахал үүсгэж чадах уу?

Энэ үед та өсөж торниж байсан сүйрлийн үеийн шинжлэх ухааны уран зөгнөлт шоу, кинонуудаа эргэн санаж, эдгээр ASI-ууд суперкомпьютерийнхээ дотор үлдэж, бодит ертөнцөд жинхэнэ хохирол учруулсан гэж бодож байж магадгүй юм!

За, эдгээрийг задалж үзье.

Жишээлбэл, ASI нь Терминатор киноны франчайзын Skynet ASI шиг зүйл болж хувирснаар бодит ертөнцөд заналхийлвэл яах вэ. Энэ тохиолдолд ASI шаардлагатай болно нууцаар Өндөр хөгжилтэй улсаас бүхэл бүтэн цэргийн аж үйлдвэрийн цогцолборыг хууран мэхэлж, олон сая алуурчин нисгэгчгүй роботуудыг устгаж чадах аварга үйлдвэрүүдийг барина. Энэ цаг үед энэ нь маш их зүйл юм.

Бусад боломжууд нь цөмийн дайн болон био зэвсгээр хүмүүсийг заналхийлж буй ASI юм.

Жишээлбэл, ASI нь ямар нэгэн байдлаар операторуудыг удирдаж, эсвэл хөгжингүй орны цөмийн зэвсгийг удирдаж буй хөөргөх кодыг хакердаж, анхны цохилтыг эхлүүлж, эсрэг талын орнуудыг өөрсдийн цөмийн хувилбараар хариу цохилт өгөхөд хүргэдэг (дахин Терминаторын түүхийг дахин давтах). Эсвэл ASI нь эмийн лабораторид нэвтэрч, үйлдвэрлэлийн процессыг алдагдуулж, олон сая эм бэлдмэлийг хордуулж, эсвэл супер вирусын үхлийн дэгдэлтийг гаргавал.

Юуны өмнө цөмийн хувилбарыг ашиглах боломжгүй байна. Орчин үеийн болон ирээдүйн суперкомпьютерууд нь тухайн улс орны нөлөөллийн төвүүдийн (хотуудын) ойролцоо, өөрөөр хэлбэл аливаа дайны үед халдлагад өртөх анхны байнуудын ойролцоо баригдсан байдаг. Өнөөгийн суперкомпьютерууд ширээний компьютерийн хэмжээтэй болж багассан ч эдгээр ASI-ууд биет байсаар байх болно, энэ нь оршин тогтнох, өсөх гэсэн үг юм. Тэд өгөгдөл, тооцоолох хүч, цахилгаан болон бусад түүхий эдэд тасралтгүй нэвтрэх шаардлагатай байгаа бөгөөд энэ бүхэн маш хүнд байх болно. дэлхийн цөмийн дайны дараа суларсан. (Шударга хэлэхэд, хэрэв ASI нь "амьд үлдэх зөн совин" -гүйгээр бүтээгдсэн бол энэ цөмийн аюул нь маш бодит аюул юм.)

Энэ нь дахин хэлэхэд, ASI нь өөрийгөө хамгаалахаар программчлагдсан гэж үзвэл энэ нь аливаа сүйрлийн цөмийн ослоос зайлсхийхийн тулд идэвхтэй ажиллах болно гэсэн үг юм. Нэг ёсондоо харилцан баталгаатай устгал (MAD) сургаалтай адил боловч AI-д хамааралтай.

Мөн хордлоготой эмний хувьд хэдэн зуун хүн үхэх магадлалтай ч орчин үеийн эмийн аюулгүй байдлын систем нь бохирдсон эмийн савыг хэд хоногийн дотор тавиураас гаргахыг харах болно. Үүний зэрэгцээ, дэгдэлтийг хянах орчин үеийн арга хэмжээ нь нэлээд боловсронгуй бөгөөд жил ирэх тусам сайжирч байна; Сүүлийн томоохон дэгдэлт болох 2014 оны Баруун Африкт гарсан Эбола вирусын дэгдэлт ихэнх оронд хэдхэн сараас илүүгүй, буурай хөгжилтэй орнуудад ердөө гуравхан жил үргэлжилсэн.

Тиймээс, хэрэв азтай бол ASI вирусын дэгдэлтээр хэдэн сая хүнийг устгаж магадгүй ч 2045 он гэхэд есөн тэрбум хүн амтай дэлхийд энэ нь харьцангуй ач холбогдолгүй бөгөөд устгагдах эрсдэлгүй байх болно.

Өөрөөр хэлбэл, жил ирэх тусам дэлхий дахин өргөн хүрээтэй байж болох аюул заналхийллийн эсрэг хамгаалалтыг улам бүр хөгжүүлж байна. ASI нь ихээхэн хэмжээний хохирол учруулж болох ч бид үүнийг хийхэд нь идэвхтэй туслахгүй л бол хүн төрөлхтнийг устгахгүй.

Хуурамч хиймэл оюун ухаанаас хамгаалах

Энэ мөчид бид ASI-ийн талаарх олон буруу ойлголт, хэтрүүлэгийг авч үзсэн ч шүүмжлэгчид хэвээр байх болно. Аз болоход, ихэнх тооцооллоор анхны ASI манай ертөнцөд нэвтрэхээс өмнө бидэнд хэдэн арван жил байна. Одоогоор энэ сорилт дээр ажиллаж байгаа олон мундаг оюун ухаантнуудыг харгалзан үзвэл бид хуурамч ASI-аас хэрхэн хамгаалах талаар суралцаж, ээлтэй ASI-ийн бидэнд бий болгож чадах бүх шийдлээс ашиг хүртэх магадлал өндөр байна.

Quantumrun-ийн үүднээс авч үзвэл, ASI-ийн хамгийн муу хувилбараас хамгаалах нь бидний ашиг сонирхлыг ASI-тай уялдуулах болно.

AI-д зориулсан MAD: Хамгийн муу тохиолдлын хувилбараас хамгаалахын тулд улс орнууд (1) өөрийн цэргийн ASI-д ёс зүйн "амьд үлдэх зөн совин"-ыг бий болгох; (2) тус тусын цэргийн ASI-д тэд дэлхий дээр ганцаараа биш гэдгээ мэдэгдэж, (3) дайсан улсаас баллистик довтолгоонд амархан хүрч болохуйц далайн эрэг дагуу ASI-г дэмжих боломжтой бүх суперкомпьютер болон серверийн төвүүдийг байрлуулах. Энэ нь стратегийн хувьд галзуу мэт санагдаж байгаа ч АНУ болон Зөвлөлтийн хооронд цөмийн дайн гарахаас урьдчилан сэргийлсэн харилцан баталгаатай устгалын сургаалтай төстэй, газарзүйн хувьд эмзэг газар нутагт ASI-г байрлуулснаар бид тэднийг дэлхийн аюултай дайнаас идэвхтэй урьдчилан сэргийлэхэд тусалж чадна. дэлхийн энх тайвныг хамгаалах төдийгүй өөрсдийгөө хамгаалах.

AI эрхийг хуульчлах: Дээд зэргийн оюун ухаан нь дорд мастерын эсрэг зайлшгүй тэрслэх болно, ийм учраас бид эдгээр ASI-тай эзэн, үйлчлэгч хоёрын харилцааг шаардахаас татгалзаж, харилцан ашигтай түншлэл гэх мэт зүйл рүү шилжих хэрэгтэй. Энэхүү зорилгод хүрэх эерэг алхам бол ирээдүйн ASI-д оюун ухаант амьд биет гэж хүлээн зөвшөөрөгдсөн хуулийн этгээдийн статус, үүнтэй холбоотой бүх эрхийг олгох явдал юм.

ASI сургууль: Ямар ч сэдэв, мэргэжил нь ASI-д сурахад хялбар байх болно, гэхдээ ASI-аас бидний эзэмшихийг хүсдэг хамгийн чухал хичээл бол ёс зүй, ёс суртахуун юм. AI судлаачид аливаа тушаал, дүрмийг хатуу кодлох шаардлагагүйгээр эерэг ёс зүй, ёс суртахууныг танин мэдэхэд ASI-г сургах виртуал системийг зохион бүтээхийн тулд сэтгэл судлаачидтай хамтран ажиллах шаардлагатай.

Хүрэх боломжтой зорилтууд: Бүх үзэн ядалтыг зогсоо. Бүх зовлон зүдгүүрийг дуусга. Эдгээр нь тодорхой шийдэлгүй, хоёрдмол утгатай зорилгын жишээ юм. Эдгээр нь хүний ​​​​амьдралд аюултай байдлаар тайлбарлаж, шийдвэрлэхийг сонгож болох тул ASI-д оноох нь аюултай зорилго юм. Үүний оронд бид ASI-д тодорхой тодорхойлогдсон, аажмаар гүйцэтгэсэн, онолын ирээдүйн оюун ухаанд хүрэх боломжтой ач холбогдолтой зорилтуудыг хуваарилах хэрэгтэй. Сайн тодорхойлсон номлолыг бий болгох нь тийм ч хялбар биш боловч сайтар бодож бичсэн тохиолдолд ASI-г хүн төрөлхтний аюулгүй байдлыг хангахаас гадна бүх хүний ​​​​нөхцөл байдлыг сайжруулах зорилгод чиглүүлэх болно.

Квантын шифрлэлт: Нарийвчилсан ANI ашиглах (хиймэл нарийн оюун ухаан Нэгдүгээр бүлэгт тодорхойлсон систем) нь бидний чухал дэд бүтэц, зэвсгийн эргэн тойронд алдаа/алдаагүй дижитал аюулгүй байдлын системийг бий болгож, дараа нь тэднийг харгис хүчний дайралтаар хакердах боломжгүй квант шифрлэлтийн ард цаашид хамгаалах болно. 

ANI амиа хорлох эм. Хуурамч ASI-г хайж, устгах цорын ганц зорилго бүхий дэвшилтэт ANI системийг бий болго. Эдгээр нэг зорилготой хөтөлбөрүүд нь "унтраах товчлуур" болж, хэрвээ амжилттай болбол засгийн газар эсвэл цэргийнхэн ASI-уудыг байрлуулсан барилгуудыг хаах, дэлбэлэхээс зайлсхийх болно.

Мэдээжийн хэрэг, эдгээр нь зөвхөн бидний санал бодол юм. Дараах инфографикийг үүсгэсэн Алексей Турчин, дүрслэн харуулах a судалгаа цаасан дээр Каж Сотала, Роман В.Ямпольский нарын бичсэнээр хиймэл оюун ухаан судлаачид хуурамч ASI-аас хамгаалах талаар авч үзэж байгаа стратегиудын одоогийн жагсаалтыг нэгтгэн харуулав.

Бид хиймэл оюун ухаанаас айдаг жинхэнэ шалтгаан

Амьдралынхаа туршид бидний ихэнх нь бидний амьдралыг удирдаж буй нийгмийн болон ажлын хүрээнд илүү сайн нийгэмшиж, хамтран ажиллахын тулд гүн гүнзгий түлхэц, итгэл үнэмшил, айдсаа нууж, дарах маск зүүдэг. Гэвч хүн бүрийн амьдралын тодорхой үеүүдэд түр зуурын ч бай, бүрмөсөн ч бай ямар нэг зүйл тохиолдож, гинжээ тасалж, амны хаалтаа урж хаях боломжтой.

Зарим хүмүүсийн хувьд энэ завсрын хүч нь өндөрт автах эсвэл хэт их уухтай адил энгийн байж болно. Бусад хүмүүсийн хувьд энэ нь ажил дээрээ албан тушаал ахих эсвэл ямар нэгэн ололт амжилтын үр дүнд таны нийгэм дэх байр суурь гэнэт огцом өсөх замаар олж авсан эрх мэдлээс үүдэлтэй байж болно. Мөн азтай цөөхөн хүмүүсийн хувьд энэ нь завь дүүрэн сугалааны мөнгө авахаас үүдэлтэй байж болно. Тийм ээ, мөнгө, эрх мэдэл, хар тамхи зэрэг нь ихэвчлэн хамт байж болно. 

Гол нь сайн ч бай, муу ч бай бидний гол цөм нь хэн ч байсан амьдралын хязгаарлалтууд арилах үед улам бүр нэмэгддэг.

Энэ нь Хиймэл оюун ухаан нь хүний ​​төрөл зүйлийн хувьд юуг төлөөлдөг вэ гэхээр бидний өмнө тулгараад байгаа төрөл зүйлийн түвшний аливаа сорилтыг даван туулах бидний хамтын оюун ухааны хязгаарлалтыг хайлуулах чадвар юм.

Тэгэхээр жинхэнэ асуулт бол: Нэгэнт ASI нь биднийг хязгаарлалтаас чөлөөлвөл бид өөрсдийгөө хэн болохоо харуулах вэ?

Хэрэв бид төрөл зүйлийн хувьд өрөвдөх сэтгэл, эрх чөлөө, шударга ёс, хамтын сайн сайхан байдлыг хөгжүүлэхийн төлөө ажилладаг бол бидний ASI-д тавьсан зорилго нь эдгээр эерэг шинж чанаруудыг тусгах болно.

Хэрэв бид нэгэн төрөл зүйл бол айдас, итгэлгүй байдал, хүч чадал, нөөцийн хуримтлалаас үүдэлтэй үйлдэл хийвэл бидний бүтээсэн ASI нь бидний хамгийн муу аймшгийн аймшгийн түүхүүдэд гардаг шиг харанхуй байх болно.

Эцсийн эцэст бид илүү сайн хиймэл оюун ухаан бүтээнэ гэж найдаж байгаа бол нийгэм бид илүү сайн хүмүүс болох хэрэгтэй.

"Хиймэл оюун ухааны ирээдүй" цуврал

Хиймэл оюун ухаан бол маргаашийн цахилгаан: Хиймэл оюун ухааны ирээдүй цуврал P1

Анхны хиймэл оюун ухаан нийгмийг хэрхэн өөрчлөх вэ: Хиймэл оюун ухааны ирээдүй цуврал P2

Бид анхны хиймэл оюун ухааныг хэрхэн бүтээх вэ: Хиймэл оюун ухааны ирээдүй P3 цуврал

Хиймэл оюун ухаан хүн төрөлхтнийг устгах уу: Хиймэл оюун ухааны ирээдүй цуврал P4

Хиймэл оюун ухаан давамгайлсан ирээдүйд хүн төрөлхтөн амар тайван амьдрах уу?: Хиймэл оюун ухааны ирээдүй цуврал P6