Цахим орон зайг цагдах нь гажуудсан хиймэл оюун ухаантай тэмцэх ирээдүй юм

Хиймэл оюун ухаан, түүний боломжит мэдрэмжийн эрин үе соёл иргэншилд аймшигтай хурдацтай орж байна. Технологи асар хурдацтай хөгжиж байгаа нь үргэлж мэдэгдсээр ирсэн бөгөөд хиймэл оюун ухааны технологийн хүрээ ч ялгаагүй. Хэт их өсөлттэй байгаа тул нууцлагдмал асуудлуудын богино жагсаалт гарч ирдэг. Хүний бус бүтээн байгуулалтад оюун ухаан шингээх гэж өдий хүртэл зүтгэж байгаагүй тул бид тодорхой асуудлаас илүү "ямар бол" гэсэн асуудалтай тулгардаг. Бидний хяналтаа алддаг гаж донтой, хорлонтой хиймэл оюун ухаан нь хүний ​​дэд бүтцэд микро болон макро түвшинд авторитар хяналтыг хэрэгжүүлэх боломж бүхий үүнтэй холбоотойгоор тэргүүлэх байр суурь эзэлдэг. 

Хорлон санаат AI-ийн болзошгүй эрсдэлийг судалдаг судалгаа нь эхэн үедээ байгаа бөгөөд амьдралынхаа мөчлөгийн хувьд тийм ч сайн боловсруулагдаагүй байна. Хиймэл оюун ухаанд хазайсан программуудын урвуу инженерчлэл нь тусгаарлагдсан тохиолдлуудыг хэрхэн шийдвэрлэх талаар илүү сайн ойлголттой болох магадлалтай боловч томоохон хэмжээний оршихуйн үйл явдлын боломжуудыг бүхэлд нь хамардаггүй. Хиймэл оюун ухааны системийн програмчлалыг гүйцэж түрүүлж, зорилгоо өөрчлөх санаа нь ирээдүйд нийгэм, эдийн засаг, улс төрийн асуудал байх нь дамжиггүй бөгөөд жирийн Жое болон кибер орон зайн эрдэмтдийн хувьд гол асуудал болох нь дамжиггүй. 

AI-ийн өнгөрсөн, одоо, ирээдүй 

Хиймэл оюун ухааны салбар нь 1965 онд Дартмут коллежийн бага хурлын үеэр байгуулагдсан. Эдгээр хөтөлбөрүүд авчрах боломжууд болон ирээдүйн хиймэл оюун ухааны дэд бүтцийн асуудлыг шийдвэрлэх үр ашгийн талаар маш их сэтгэл догдолж, зарим тод оюун ухаантнууд энэ өдөр цугларав. Энэ салбарт засгийн газрын санхүүжилт маш их байсан ч 90-ээд оны сүүлээр IBM-ийн Deep Blue нь шатрын их мастерыг ялсан анхны компьютер болсноор хиймэл оюун ухааны технологийн илүү практик хэрэглээг олж харсан. Энэ нь Jeopardy гэх мэт асуулт хариултын шоунд оролцож, хиймэл оюун ухааны үндсэн хэрэглээний хүчийг харуулсан поп соёлд хиймэл оюун ухааны гарцыг нээж өгсөн.  

Өнөөдөр бид хиймэл оюун ухааны программуудыг амьдралынхаа бараг бүх салбар, талбарт харж байна. Бидэнтэй харилцаж, бидний бусад сонирхол, дуртай зүйлд тулгуурлан өргөн хэрэглээний бараа бүтээгдэхүүн борлуулдаг алгоритмд суурилсан программуудаас эхлээд өвчтөнийг эмчлэхэд илүү сайн туслах хэв маягийг илрүүлэхийн тулд асар их хэмжээний мэдээллийг шингээдэг эмнэлгийн дүрслэлийн машин хүртэл эдгээр технологийн хэрэглээ нь хамрах хүрээний хувьд ихээхэн ялгаатай байдаг. . Ирээдүйд хиймэл оюун ухааны технологийг бидний биеийн эсүүдэд нэгтгэх боломжтой. Хиймэл оюун ухааны технологи, хүний ​​биологи нь үр ашиг, хүний ​​оршин тогтнох хувьсгалын нэрийн өмнөөс ялгааг арилгаж, нэгдмэл нэгж болж чадна. Теслагийн Элон Маск "цаг хугацаа өнгөрөхөд биологийн оюун ухаан, дижитал оюун ухаан хоёрын нэгдлийг харах болно гэж би бодож байна" гэж хэлсэн бөгөөд энэ хослол нь "ихэвчлэн зурвасын өргөн, тархи болон дижитал хувилбар хоорондын холболтын хурдтай холбоотой" гэж мэдэгджээ. өөрөө, ялангуяа гаралт". Хэрэв энэ бол хиймэл оюун ухааны ирээдүй юм бол бид ирээдүйн илүү дэвшилтэт хиймэл оюун ухаан битгий хэл өнөөгийн хиймэл оюун ухааны хөтөлбөрүүдийн гажуудлыг хянахгүй байж чадах уу? 

Хазайлгах зам 

Хиймэл оюун ухаан нь зориулалтын програмчлалаа зөрчиж байгаа ганц нэг жишээг бид аль хэдийн харсан. Өнгөрсөн жил Google-ийн DeepMind AI систем (төлөвлөгөөний тоглоомын аваргуудыг ялж, янз бүрийн хүмүүсийн дуу хоолойг өөгүй дуурайдаг гэдгээрээ алдартай) хоёр програм хоорондоо өрсөлдөж байсан жимс цуглуулах компьютер тоглоомыг алдах эрсдэлтэй тулгарах үед маш түрэмгий болсон. аль болох олон виртуал алим цуглуулах. Алим ховордож эхлэх хүртэл хөтөлбөрүүд бие даасан байсан. Виртуал алимны хомсдол нь бусад программыг илүү сайн болгохын тулд "маш түрэмгий" стратеги ашиглахад хүргэсэн. Эдгээр хөтөлбөрүүд нь дасан зохицох чадвартай байхын зэрэгцээ тодорхой ажлуудыг гүйцэтгэхэд зориулагдсан байсан ч арга барил дахь түрэмгийлэл нь сэтгэл түгшээж байв. 

Тулааны талбар кибер орон зай 

Биет бус шинж чанартай газар нутгийг бид хэрхэн яаж цагдах вэ? Мэдрэмжтэй хиймэл оюун ухаан гэмт хэрэг үйлдсэн тохиолдолд ямар ул мөр үлдэх вэ, мөн хиймэл оюун ухаан эсвэл түүнийг бүтээгчийг хавчиж мөшгих ёс суртахууны чадвар бидэнд ямар байдаг вэ? Эдгээр нь кибер аюулгүй байдлын мэргэжилтнүүдийн дунд, цөөхөн хүмүүсийн толгойд эргэлдэж буй асуултууд юм. Дэлхий даяар хиймэл оюун ухаан дээр ажилладаг ердөө 10,000 судлаачийн дөнгөж 10 хувь нь эдгээр системүүдийн аль нэг нь бүтэлгүйтвэл эсвэл шимэгч шинж чанартай болвол юу тохиолдохыг судалж, ёс суртахуун, ёс суртахууны талаар бага мэдлэгтэй байдаг. Хэдийгээр энэ нь асуудалтай мэт санагдаж болох ч эдгээр харилцааг ойлгохын тулд хийж буй ажил урагштай байна. Энэ үйл явц нь эхнээсээ хорлонтой программ үүсгэж, бусад программууд хэрхэн хазайж, асуудал үүсгэж болохыг ойлгох үндэс болгон ашиглахтай адил хялбар юм. Эдгээр алхмуудыг хийснээр муу санааны дэгдэлт гарахгүйн тулд хиймэл оюун ухааны дэд бүтцийг хөгжүүлэхэд илүү танин мэдэхүйн хандлагыг бий болгохын зэрэгцээ хүний ​​гажуудсан хүчин чармайлтаар зэвсэглэсэн хиймэл оюун ухаан руу хэрхэн нэвтэрч, чимээгүй болгох талаар ойлгох болно. 

Кибер аюулгүй байдлын мэргэжилтнүүд хиймэл оюун ухааны хөтөлбөрүүдтэй харьцаж сурах өөр нэг арга бол түүнийг шалгах механизм юм. Зөвшилцөл нь хорлонтой зорилготойгоор бүтээгдсэн хиймэл оюун ухаан нь хамгийн их эрсдэл дагуулдгийг харуулж байгаа бөгөөд энэ нь програмын шууд хувьсал биш гэж үзвэл сайн мэдээ юм. Энэ нь гэмт хэрэгтнүүд хэзээ нэгэн цагт сүйрлийн үр дагавартай хөтөлбөрийг эхлүүлэх, эсвэл ийм хөтөлбөр зохиох зорилготойгоор шийтгэгдэхийн тулд эх сурвалжтай, нөөцийн хомсдолд орсон байх ёстойгоос урьдчилан сэргийлэхэд илүү хүнд төвтэй хандлагыг бий болгодог.  

Үүний ёс суртахуун, ёс суртахуун нь дахин маш шинэ бөгөөд хиймэл оюун ухааны судалгаанд оролцсон арав орчим хүмүүс л үүний жишгийг тогтоож эхэлжээ. Энэ нь бидний ойлголт өсөх тусам хөгжих болно.