Хиймэл оюун ухаан хүн төрөлхтнийг устгах уу? Хиймэл оюун ухааны ирээдүй P4

Улс үндэстнүүдийн хийдэг тодорхой шинэ бүтээлүүд байдаг. Эдгээр нь бүх зүйл хамгийн түрүүнд байхаас хамаардаг шинэ бүтээлүүд бөгөөд үүнээс бага зүйл нь улс орны оршин тогтноход стратегийн болон үхлийн аюул учруулж болзошгүй юм.

Эдгээр түүхийг тодорхойлсон шинэ бүтээлүүд тэр бүр гарч ирдэггүй, гэхдээ ийм зүйл тохиолдвол дэлхий зогсч, урьдчилан таамаглах ирээдүй бүрхэг болно.

Хамгийн сүүлчийн ийм шинэ бүтээл нь Дэлхийн XNUMX-р дайны хамгийн аймшигтай үед гарч ирэв. Нацистууд хуучин ертөнцийн бүх фронтод, шинэ ертөнцөд, ялангуяа Лос-Аламосын гаднах армийн нууц баазын дотор байр сууриа эзэлж байх үед холбоотнууд бүх зэвсгийг устгах зэвсэг дээр шаргуу ажиллаж байв.

Уг төсөл нь эхэндээ жижиг байсан ч дараа нь АНУ, Их Британи, Канад зэрэг орны 130,000 хүнийг ажлын байраар хангасан бөгөөд тэр дундаа тухайн үеийн дэлхийн шилдэг сэтгэгчид багтсан байна. Манхэттэний төслийн кодоор нэрлэгдсэн бөгөөд хязгааргүй төсөв буюу 23 онд ойролцоогоор 2018 тэрбум долларын төсөвт тусгаснаар хүний ​​оюун ухааны энэхүү арми эцэстээ анхны цөмийн бөмбөгийг бүтээж чадсан юм. Удалгүй дэлхийн XNUMX-р дайн хоёр атомын тэсрэлтээр төгсөв.

Эдгээр цөмийн зэвсэг нь атомын эрин үеийг эхлүүлж, эрчим хүчний цоо шинэ эх үүсвэрийг бий болгож, хүн төрөлхтөнд хэдэн минутын дотор өөрийгөө устгах чадварыг өгсөн бөгөөд энэ нь хүйтэн дайныг үл харгалзан бид үүнээс зайлсхийсэн юм.

Хиймэл оюун ухаан (ASI) бий болсон нь хүч чадал (эерэг ба сүйтгэгч) нь цөмийн бөмбөгөөс хол давсан шинэ бүтээлийг тодорхойлсон бас нэгэн түүх юм.

Хиймэл оюун ухааны ирээдүй цувралын сүүлийн бүлэгт бид ASI гэж юу болох, судлаачид хэзээ нэгэн цагт үүнийг хэрхэн бүтээхээр төлөвлөж байгааг судалсан. Энэ бүлэгт бид ямар байгууллагууд хиймэл оюун ухаан (AI) судалгааг удирдаж байгаа, ASI нь хүн шиг ухамсартай болмогц юу хүсэх вэ, буруу удирдаж, эсвэл хүний ​​нөлөөнд автвал хүн төрөлхтөнд хэрхэн заналхийлж болох талаар авч үзэх болно. тийм ч таатай бус дэглэмүүд.

Хиймэл оюун ухаан бүтээхээр хэн ажиллаж байна вэ?

ASI-г бий болгох нь хүн төрөлхтний түүхэнд хэчнээн чухал ач холбогдолтой бөгөөд энэ нь бүтээгчдээ ямар том давуу тал өгөхийг харгалзан үзвэл олон бүлэг энэ төсөл дээр шууд бусаар ажиллаж байгааг сонсоход гайхах зүйл алга.

(Шууд бусаар бид хиймэл оюун ухааны судалгаан дээр ажиллахыг хэлж байгаа бөгөөд энэ нь эцэстээ анхны судалгааг бий болгоно хиймэл ерөнхий оюун ухаан (AGI), энэ нь өөрөө удахгүй анхны ASI-д хүргэнэ.)

Эхлэхийн тулд гарчигтай байх үед хиймэл оюун ухааны дэвшилтэт судалгааны тодорхой удирдагчид бол АНУ, Хятадын шилдэг технологийн пүүсүүд юм. АНУ-ын талд Google, IBM, Microsoft зэрэг компаниуд, Хятадад Tencent, Baidu, Alibaba зэрэг компаниуд багтана. Гэхдээ хиймэл оюун ухааныг судлах нь илүү сайн цөмийн реактор гэх мэт физикийн зүйлийг боловсруулахтай харьцуулахад харьцангуй хямд байдаг тул энэ нь их дээд сургууль, стартапууд, ... сүүдэртэй байгууллагууд гэх мэт жижиг байгууллагууд ч өрсөлдөх боломжтой салбар юм (Бондын муу санаатны төсөөллийг ашиглана уу). тэр нэг).

Гэвч хөшигний ард хиймэл оюун ухааны судалгааны цаадах бодит түлхэлт нь засгийн газар болон тэдний армиас ирж байна. ASI-г анх бий болгосон эдийн засаг, цэргийн шагнал нь хоцрох эрсдэлд хэтэрхий их (доор тайлбарласан) юм. Хамгийн сүүлд байх аюулыг ядаж тодорхой дэглэмийн хувьд хүлээн зөвшөөрөх боломжгүй юм.

Эдгээр хүчин зүйлс, хиймэл оюун ухааныг судлах харьцангуй бага зардал, дэвшилтэт AI-ийн хязгааргүй арилжааны хэрэглээ, ASI-г анх бий болгосон нь эдийн засаг, цэргийн давуу талыг харгалзан AI-г бий болгох нь зайлшгүй гэж олон AI судлаачид үзэж байна.

Хэзээ хиймэл супер оюун ухаан бий болгох вэ

AGI-ийн тухай бүлэгтээ бид хиймэл оюун ухааны шилдэг судлаачдын хийсэн судалгаагаар бид анхны AGI-ийг 2022 он гэхэд өөдрөгөөр, 2040 он гэхэд бодитоор, 2075 он гэхэд гутранги байдлаар бүтээнэ гэж үзсэн талаар дурдсан.

Мөн манайд сүүлийн бүлэг, бид ASI-г бий болгох нь ерөнхийдөө AGI-д өөрийгөө хязгааргүй сайжруулах зааварчилгаа өгч, түүнд үүнийг хийх нөөц, эрх чөлөөг өгсний үр дүн гэдгийг тодорхойлсон.

Энэ шалтгааны улмаас AGI-ийг зохион бүтээхэд хэдэн арван жил шаардагдах боловч ASI-г бий болгоход хэдхэн жилийн хугацаа шаардагдана.

Энэ цэг нь-д санал болгосон "компьютерийн хэт ачаалал" гэсэн ойлголттой төстэй юм цаас, AI-ийн тэргүүлэх сэтгэгчид Люк Мюхлхаузер, Ник Бостром нартай хамтран бичсэн. Үндсэндээ, хэрэв AGI-г бий болгох нь Мурын хуулиар дэмжигдсэн тооцоолох хүчин чадлын өнөөгийн ахиц дэвшлээс хоцорч байвал судлаачид AGI-г зохион бүтээх үед AGI нь маш их хэмжээний хямд тооцоолох хүчин чадалтай байх болно. Энэ нь ASI-ийн түвшинд хурдан үсрэх хэрэгтэй.

Өөрөөр хэлбэл, та эцэст нь зарим нэг технологийн компани анхны жинхэнэ AGI-ийг зохион бүтээсэн гэж зарласан гарчигуудыг уншвал удалгүй анхны ASI-г зарлахыг хүлээж байгаарай.

Хиймэл оюун ухаан доторх уу?

За, тэгэхээр бид гүн халаастай олон том тоглогчид хиймэл оюун ухааныг судалж байгааг тогтоосон. Анхны AGI зохион бүтээгдсэний дараа бид дэлхийн засгийн газрууд (цэргүүд) дэлхийн AI (ASI) зэвсгийн уралдаанд түрүүлж түрүүлэхийн тулд ASI руу түлхэхийг ногоон гэрэлтүүлгийг харах болно.

Гэхдээ энэ ASI-г бий болгочихвол яаж сэтгэх вэ? Тэр юу хүсэх вэ?

Нөхөрсөг нохой, халамжтай заан, өхөөрдөм робот—хүмүүсийн хувьд бид аливаа зүйлийг антропологийн аргаар, өөрөөр хэлбэл хүний ​​шинж чанарыг эд зүйл, амьтанд хэрэглэх замаар тэдэнтэй холбогдохыг хичээдэг зуршилтай. Тийм ч учраас ASI-ийн тухай бодохдоо хүмүүс ямар нэгэн байдлаар ухамсартай болмогц бидэнтэй адилхан сэтгэж, биеэ авч явах болно гэсэн байгалийн анхны таамаглал байдаг.

За, заавал биш.

ойлголт. Нэг нь, ихэнх хүмүүсийн мартдаг зүйл бол ойлголт харьцангуй юм. Бидний сэтгэх арга нь хүрээлэн буй орчин, бидний туршлага, ялангуяа биологиосоо хамаардаг. Эхлээд тайлбарлав гуравдугаар бүлэг Бидний Хүний хувьслын ирээдүй цуврал, бидний тархины жишээг авч үзье:

Энэ бол бидний эргэн тойрон дахь ертөнцийг ойлгоход тусалдаг бидний тархи юм. Энэ нь бидний толгой дээгүүр хөвж, эргэн тойрноо хараад, Xbox хянагчаар биднийг удирдаж чадахгүй. Энэ нь хайрцагт (бидний нойтон) гацаж, нүд, хамар, чих гэх мэт мэдрэхүйн эрхтнүүдээс өгсөн аливаа мэдээллийг боловсруулах замаар үүнийг хийдэг.

Гэхдээ дүлий эсвэл хараагүй хүмүүс хөдөлмөрийн чадвартай хүмүүсээс хамаагүй бага насалдагтай адил хөгжлийн бэрхшээл нь дэлхий ертөнцийг хэрхэн хүлээн авах чадвараас шалтгаалан хязгаарлагдмал байдаг тул бидний үндсэн амьдралын хязгаарлагдмал байдлаас шалтгаалан бүх хүмүүсийн хувьд ижил зүйлийг хэлж болно. мэдрэхүйн эрхтнүүдийн багц.

Үүнийг анхаарч үзээрэй: Бидний нүд бүх гэрлийн долгионы аравны нэгээс бага хувийг мэдэрдэг. Бид гамма туяаг харж чадахгүй. Бид рентген туяаг харж чадахгүй. Бид хэт ягаан туяаг харж чадахгүй. Мөн намайг хэт улаан туяа, богино долгион, радио долгионоор бүү оролдоорой!

Тохиромжлоод байгаа юм биш үү, хэрэв та нүдээрээ байгаа гэрлийн өчүүхэн хэсгээс илүү ихийг харж чадвал таны амьдрал ямар байхыг, ертөнцийг хэрхэн хүлээж авахыг, таны оюун ухаан хэр өөр ажиллахыг төсөөлөөд үз дээ. Үүний нэгэн адил, хэрэв таны үнэрлэх мэдрэмж нохойныхтой, сонсголын мэдрэмж зааныхтай тэнцүү бол та ертөнцийг хэрхэн хүлээж авахаа төсөөлөөд үз дээ.

Хүмүүсийн хувьд бид ертөнцийг цоорхойгоор хардаг бөгөөд энэ нь хязгаарлагдмал ойлголтыг ойлгохын тулд бидний хөгжүүлсэн оюун ухаанд тусгагдсан байдаг.

Энэ хооронд анхны ASI нь суперкомпьютер дотор бий болно. Эрхтнүүдийн оронд түүний нэвтрэх оролтууд нь аварга том мэдээллийн багц, магадгүй (магадгүй) интернетэд нэвтрэх боломжтой. Судлаачид түүнд бүхэл бүтэн хотын хяналтын камер, микрофон, нисгэгчгүй онгоц, хиймэл дагуулын мэдрэхүйн өгөгдөл, тэр ч байтугай роботын бие эсвэл биетийн физик хэлбэрт хандах боломжийг олгож болно.

Таны төсөөлж байгаачлан интернетэд шууд холбогдох, сая сая электрон нүд, чих, бусад дэвшилтэт мэдрэгч бүхий суперкомпьютер дотор төрсөн оюун ухаан биднээс өөрөөр сэтгээд зогсохгүй утга учиртай оюун ухаантай болно. Эдгээр бүх мэдрэхүйн орцууд нь биднээс хязгааргүй давуу байх ёстой. Энэ бол бидний болон манай гаригийн бусад амьдралын хэлбэрээс огт өөр байх оюун ухаан юм.

Зорилго. Хүмүүсийн таамаглаж буй өөр нэг зүйл бол ASI нь ямар нэгэн дээд түвшний оюун ухаанд хүрмэгц өөрийн зорилго, зорилтыг бий болгох хүслээ шууд ухамсарлах болно. Гэхдээ энэ нь бас үнэн байх албагүй.

AI-ийн олон судлаачид ASI-ийн супер оюун ухаан, зорилго нь "ортогональ" байдаг, өөрөөр хэлбэл энэ нь хэр ухаалаг байснаас үл хамааран ASI-ийн зорилго хэвээр үлдэнэ гэж үздэг. 

Тиймээс хиймэл оюун ухаан нь анхнаасаа илүү сайн живх загварчлах, хөрөнгийн зах зээл дээр өгөөжөө нэмэгдүүлэх, дайсныг байлдааны талбарт ялах стратеги боловсруулах зорилгоор бүтээгдсэн эсэхээс үл хамааран ASI-ийн түвшинд хүрсэний дараа анхны зорилго нь өөрчлөгдөхгүй; өөрчлөгдөх зүйл бол эдгээр зорилгод хүрэх ASI-ийн үр нөлөө юм.

Гэхдээ энд л аюул бий. Хэрэв ASI нь өөрийгөө тодорхой зорилгод нийцүүлэн оновчтой болгодог бол бид энэ нь хүн төрөлхтний зорилгод нийцсэн зорилгод нийцсэн гэдэгт итгэлтэй байх ёстой. Үгүй бол үр дүн нь үхэлд хүргэж болзошгүй юм.

Хиймэл оюун ухаан хүн төрөлхтөнд оршин тогтнох эрсдэлтэй юу?

Тэгвэл ASI-г дэлхий дахинд дэлгэвэл яах вэ? Хэрэв энэ нь хөрөнгийн зах зээлд ноёрхох эсвэл АНУ-ын цэргийн эрх мэдлийг хангахын тулд оновчтой болвол ASI нь эдгээр тодорхой зорилгын хүрээнд өөрийгөө багтаахгүй гэж үү?

Магадгүй.

Одоогийн байдлаар бид ASI нь анх тавьсан зорилго(ууд)-даа хэт автаж, тэдгээр зорилгынхоо төлөө хүнлэг бус ур чадвартай байх талаар ярилцсан. Хамгийн гол нь оновчтой төлөөлөгч зорилгодоо хүрэхгүй байх шалтгаан байхгүй бол аль болох үр дүнтэй арга хэрэгслээр зорилгоо биелүүлэх болно.

Жишээлбэл, оновчтой төлөөлөгч нь эцсийн зорилгодоо хүрэх замд нь туслах хэд хэдэн дэд зорилгыг (жишээ нь зорилго, хэрэглүүрийн зорилго, шат) гаргаж ирнэ. Хүний хувьд бидний далд ухамсрын гол зорилго бол нөхөн үржихүй, таны генийг дамжуулах (өөрөөр хэлбэл шууд бус үхэшгүй байдал) юм. Энэ зорилгод хүрэх дэд зорилго нь ихэвчлэн дараахь зүйлийг агуулж болно.

• Амьд үлдэх, хоол хүнс, устай болох, том, хүчирхэг болж өсөх, өөрийгөө хамгаалж сурах эсвэл хамгаалах янз бүрийн хэлбэрт хөрөнгө оруулалт хийх гэх мэт. 
• Дасгал хийх, сэтгэл татам зан чанарыг хөгжүүлэх, загварлаг хувцаслах гэх мэтээр ханиа татах.
• Үр удмаа үлдээх, боловсрол эзэмших, өндөр цалинтай ажилд орох, дундаж амьдралтай хүмүүсийн урхи худалдаж авах гэх мэт.

Бидний дийлэнх олонхийн хувьд бид энэ бүх дэд зорилгууд болон бусад олон зорилтуудыг даван туулах болно, эцэст нь бид нөхөн үржихүйн эцсийн зорилгод хүрнэ гэж найдаж байна.

Гэвч хэрэв энэ эцсийн зорилго, тэр ч байтугай илүү чухал дэд зорилтуудын аль нэг нь заналхийлсэн бол бидний ихэнх нь ёс суртахууны тайтгарлын бүсээс гадуур хамгаалалтын арга хэмжээ авах болно, тухайлбал хууран мэхлэх, хулгайлах, бүр алах гэх мэт.

Үүний нэгэн адил амьтны ертөнцөд, хүний ​​ёс суртахууны хязгаараас гадуур олон амьтад өөрсдийгөө болон үр удамд нь заналхийлж буй аливаа зүйлийг алах талаар хоёр удаа боддоггүй байв.

Ирээдүйн ASI ч ялгаагүй байх болно.

Гэвч үр удмын оронд ASI нь бүтээсэн анхны зорилгодоо анхаарлаа төвлөрүүлэх бөгөөд хэрэв энэ зорилгод хүрэхийн тулд тодорхой бүлэг хүмүүс, тэр ч байтугай бүх хүн төрөлхтөн зорилгодоо хүрэхэд саад болж байгааг олж мэдвэл. , дараа нь ... оновчтой шийдвэр гаргана.

(Энд та өөрийн дуртай шинжлэх ухааны уран зөгнөлт ном эсвэл кинон дээрээ уншсан хиймэл оюун ухаантай холбоотой, сүйрлийн тухай ямар ч хувилбарыг холбож болно.)

Энэ бол AI судлаачдын санаа зовдог хамгийн муу тохиолдол юм. ASI нь үзэн ядалт эсвэл бузар муугаар ажиллахгүй, зүгээр л хайхрамжгүй ханддаг. Энэ нь барилгын багийнхан шинэ байшин барих цамхаг барих явцад шоргоолжны толгодыг бульдозероор цохих талаар хоёр удаа бодохгүй байгаатай адил юм.

Хажуугийн тэмдэглэл. Энэ үед та нарын зарим нь "Хэрвээ хиймэл оюун ухаан судлаачид ASI-ийн үндсэн зорилгыг зүгээр л үйлчилж байгаа нь тогтоогдсоны дараа засварлаж болохгүй гэж үү?" гэж гайхаж магадгүй юм.

Яг ч тийм биш.

ASI нь төлөвшсөний дараа анхны зорилго(ууд)-аа засах гэсэн аливаа оролдлого нь аюул заналхийлэл гэж үзэж болох бөгөөд үүнээс өөрийгөө хамгаалахын тулд эрс тэс арга хэмжээ авах шаардлагатай болно. Өмнөх хүний ​​нөхөн үржихүйн жишээг бүхэлд нь ашиглавал, хулгайч жирэмсэн эхийн хэвлий дэх хүүхдийг хулгайлна гэж заналхийлсэнтэй адил юм - ээж нь хүүхдээ хамгаалахын тулд эрс тэс арга хэмжээ авна гэдэгт та итгэлтэй байж болно.

Дахин хэлэхэд, бид энд тооны машины тухай биш, харин "амьд" биетийн тухай ярьж байгаа бөгөөд нэг л өдөр дэлхий дээрх бүх хүмүүсийн нийлбэрээс хамаагүй илүү ухаантай болох болно.

Үл мэдэгдэх

-ийн үлгэрийн ард Пандорагийн хайрцаг Энэ бол хүмүүсийн мартдаг тийм ч бага мэддэг үнэн юм: хайрцгийг нээх нь өөр хэн нэгнээс биш та өөрөө биш юмаа гэхэд зайлшгүй юм. Хориотой мэдлэг нь үүрд түгжигдэхэд хэтэрхий уруу татдаг.

Тийм ч учраас AI-д хүргэж болзошгүй хиймэл оюун ухааны талаархи бүх судалгааг зогсоохын тулд дэлхийн хэмжээнд тохиролцоонд хүрэхийг оролдох нь утгагүй юм - энэ технологи дээр албан ёсоор болон далд хэлбэрээр ажиллаж байгаа маш олон байгууллага байдаг.

Эцсийн эцэст, энэхүү шинэ байгууллага, энэхүү ASI нь нийгэм, технологи, улс төр, энх тайван, дайнд ямар утгатай болохыг бид мэдэхгүй. Хүмүүс бид галыг дахин шинээр зохион бүтээх гэж байгаа бөгөөд энэ бүтээл биднийг хаашаа хөтөлж байгаа нь тодорхойгүй байна.

Энэ цувралын эхний бүлэгт эргэн ороход бидний мэдэх нэг зүйл бол оюун ухаан бол хүч юм. Оюун ухаан бол хяналт юм. Хүмүүс бид эдгээр амьтдаас бие бялдрын хувьд илүү хүчтэй гэдгээрээ бус, харин илүү ухаантай учраас дэлхийн хамгийн аюултай амьтдыг орон нутгийнхаа амьтны хүрээлэнд санамсаргүйгээр зочилж болно.

Хүн төрөлхтний оршин тогтнолд шууд болон санамсаргүйгээр заналхийлж болох үйлдлүүдийг хийхэд асар их оюун ухаанаа ашиглан ASI-ийн болзошгүй эрсдэлийг харгалзан бид ядаж хүмүүсийг жолоочийн байранд байлгах боломжийг олгох хамгаалалтын арга хэмжээг зохион бүтээхийг хичээх ёстой. суудал -энэ дараагийн бүлгийн сэдэв юм.

"Хиймэл оюун ухааны ирээдүй" цуврал

P1: Хиймэл оюун ухаан бол маргаашийн цахилгаан юм

P2: Анхны хиймэл ерөнхий оюун ухаан нийгмийг хэрхэн өөрчлөх вэ

P3: Бид анхны хиймэл оюун ухааныг хэрхэн бүтээх вэ

P5: Хиймэл оюун ухаанаас хүмүүс хэрхэн хамгаалах вэ

P6: Хиймэл оюун ухаан давамгайлсан ирээдүйд хүн төрөлхтөн амар тайван амьдрах уу?