AI-ийн тохируулга: Хиймэл оюун ухааны зорилгод нийцэх нь хүний ​​үнэт зүйлстэй нийцдэг

• Зохиогчийн тухай:
• Зохиогчийн нэр

  Quantumrun Foresight
• Нэгдүгээр 25, 2023

Хиймэл оюун ухааны (AI) тохируулга гэдэг нь хиймэл оюун ухааны системийн зорилго нь хүний ​​үнэт зүйлстэй нийцэж байгааг хэлнэ. OpenAI, DeepMind, Anthropic зэрэг компаниудад судлаачдын баг ажилладаг бөгөөд тэдний гол зорилго нь ийм тохиолдлын янз бүрийн хувилбаруудын хамгаалалтын хашлагуудыг судлах явдал юм.

AI зэрэгцүүлэх контекст

Корнеллийн их сургуулийн 2021 оны судалгааны судалгаагаар алгоритмаар бүтээгдсэн хэрэгслүүд эсвэл загварууд нь сургасан өгөгдлөөс нь хазайлтыг харуулдаг болохыг хэд хэдэн судалгаагаар харуулсан. Жишээлбэл, байгалийн хэлний боловсруулалт (NLP) дээр хязгаарлагдмал өгөгдлийн багц дээр бэлтгэгдсэн сонгомол NLP загварууд нь эмэгтэйчүүдийн эсрэг хор хөнөөлтэй жендэрийн хэвшмэл ойлголтод үндэслэн таамаглал дэвшүүлж байгааг баримтжуулсан байдаг. Үүний нэгэн адил, бусад судалгаанаас үзэхэд хуурамч өгөгдлийн багц дээр сургасан алгоритмууд нь арьс өнгөөр ​​ялгаварлан гадуурхах үзэл баримтлал, ялангуяа цагдаад хандахад хүргэсэн болохыг тогтоожээ.

Машин сургалтын систем нь олон тооны сул талтай цөөнх эсвэл бүлгүүдэд илүү муу ажилласан жишээ олон бий. Ялангуяа нүүрний автоматжуулсан шинжилгээ, эрүүл мэндийн оношлогоо нь эмэгтэйчүүд болон өнгөт арьст хүмүүст тийм ч сайн ажилладаггүй. Эрүүл мэнд, боловсролыг хуваарилах гэх мэт нөхцөл байдалд сэтгэл хөдлөлийн оронд баримт, логик дээр суурилсан байх ёстой чухал тогтолцоог ашиглах үед эдгээр зөвлөмжийн цаад шалтгааныг олж тогтооход илүү их хохирол учруулж болзошгүй юм.

Үүний үр дүнд технологийн пүүсүүд алгоритмыг шударга, хүмүүнлэг байлгахад анхаарлаа төвлөрүүлэхийн тулд хиймэл оюун ухааныг тохируулах багийг байгуулж байна. Судалгааны дэвшилтэт хиймэл оюун ухааны системийн чиглэл, түүнчлэн хиймэл оюун ухааны чадавхи өсөхийн хэрээр бидэнд тулгарч болох сорилтуудыг ойлгоход зайлшгүй шаардлагатай.

Сөрөг нөлөө

OpenAI (2021) компанийн хиймэл оюун ухааныг зохицуулах албаны дарга Ян Лейкийн хэлснээр хиймэл оюун ухааны системүүд дөнгөж 2010-аад онд л ажиллах чадвартай болсон тул хиймэл оюун ухааны уялдаа холбоотой судалгааны ихэнх ажил онолын хувьд хүнд байсан нь ойлгомжтой. Асар хүчирхэг хиймэл оюун ухааны системүүд хоорондоо таарч байх үед хүмүүст тулгардаг бэрхшээлүүдийн нэг нь эдгээр машинууд нь ёс суртахууны хувьд утга учиртай эсэхийг хянаж үзэхэд хэтэрхий төвөгтэй шийдлүүдийг бий болгох явдал юм.

Лейк энэ асуудлыг засахын тулд рекурсив урамшууллын загварчлалын (RRM) стратегийг боловсруулсан. RRM-ийн тусламжтайгаар хүнд илүү төвөгтэй хиймэл оюун ухаан хэр сайн ажиллаж байгааг үнэлэхэд туслах хэд хэдэн "туслах" хиймэл оюун ухааныг заадаг. Тэрээр өөрийнх нь хэлдгээр ямар нэг зүйлийг бүтээх боломжийн талаар өөдрөгөөр харж байна. Гарааны хувьд MVP (эсвэл хамгийн бага амьдрах чадвартай бүтээгдэхүүн) нь компаний санаагаа туршиж үзэхийн тулд бүтээж болох хамгийн энгийн бүтээгдэхүүн юм. Хэзээ нэгэн цагт хиймэл оюун ухаан нь хиймэл оюун ухааныг судлах хүний ​​гүйцэтгэл, түүний үнэт зүйлстэй нийцүүлэхийн зэрэгцээ функциональ байх болно гэж найдаж байна.

Хиймэл оюун ухаанд нийцүүлэх сонирхол нэмэгдэж байгаа нь эерэг үр дүн боловч энэ салбарын олон шинжээчид хиймэл оюун ухааны тэргүүлэх лабораторийн "ёс зүй"-ийн ихэнх нь технологийн компаниудыг сайхан харагдуулж, сөрөг сурталчилгаанаас зайлсхийх зорилготой олон нийттэй харилцах ажил гэж боддог. Эдгээр хүмүүс ёс зүйн хөгжлийн дадал зуршил нь эдгээр компаниудын хувьд удахгүй нэн тэргүүний зорилт болно гэж найддаггүй.

Эдгээр ажиглалтууд нь ёс суртахууны болон техникийн судалгааны харьцангуй шинэ салбар учраас үнэ цэнийг уялдуулах хүчин чармайлтад салбар хоорондын хандлагын ач холбогдлыг онцолж байна. Мэдлэгийн янз бүрийн салбарууд нь хүртээмжтэй судалгааны хөтөлбөрийн нэг хэсэг байх ёстой. Энэхүү санаачилга нь AI систем улам боловсронгуй болж байгаа ч технологич, бодлого боловсруулагчид нийгмийн нөхцөл байдал, оролцогч талуудаа мэддэг байх шаардлагатайг харуулж байна.

AI тохируулгын үр дагавар

AI-ийн тохируулгын өргөн хүрээний үр дагавар нь дараахь зүйлийг агуулж болно. 

• Хиймэл оюун ухааны лабораториуд төсөлд хяналт тавьж, хиймэл оюун ухааны ёс зүйн удирдамжийг биелүүлэхийн тулд янз бүрийн ёс зүйн зөвлөлүүдийг ажиллуулдаг. 
• Засгийн газар компаниуд өөрсдийн хариуцлагатай хиймэл оюун ухааны тогтолцоог танилцуулахыг шаарддаг хууль боловсруулж, хиймэл оюун ухааны төслөө цаашид хэрхэн хөгжүүлэхээр төлөвлөж байна.
• Ажилд авах, олон нийтийн тандалт, хууль сахиулах үйл ажиллагаанд алгоритм ашиглах талаар маргаан ихэссэн.
• Ёс зүй болон компанийн зорилгын хоорондох ашиг сонирхлын зөрчлийн улмаас судлаачдыг хиймэл оюун ухааны томоохон лабораториос халж байна.
• Гайхамшигтай хүчирхэг боловч хүний ​​эрхийг зөрчих магадлалтай дэвшилтэт хиймэл оюун ухааны системийг зохицуулахад засгийн газрууд илүү их дарамт учруулж байна.

Сэтгэгдэл бичих асуултууд

• Пүүсүүд өөрсдийн бүтээсэн хиймэл оюун ухааны системд хэрхэн хариуцлага тооцох вэ?
• Хэрэв хиймэл оюун ухаан буруу тохируулагдсан бол өөр ямар аюул заналхийлж болох вэ?