Хиймэл оюун ухааны гажуудал: Машинууд бидний бодож байсан шиг бодитой биш юм

ЗУРГИЙН ЗЭЭЛ:
Зургийн кредит
iStock

Хиймэл оюун ухааны гажуудал: Машинууд бидний бодож байсан шиг бодитой биш юм

Хиймэл оюун ухааны гажуудал: Машинууд бидний бодож байсан шиг бодитой биш юм

Дэд гарчгийн текст
Хиймэл оюун ухаан шударга байх ёстой гэдэгтэй бүгд санал нийлдэг ч өрөөсгөл ойлголтыг арилгах нь асуудалтай болж байна
    • Зохиогчийн тухай:
    • Зохиогчийн нэр
      Quantumrun Foresight
    • Хоёрдугаар сарын 8, 2022

    Үзэл баримтлалын хураангуй

    Мэдээлэлд суурилсан технологиуд нь шударга нийгмийг төлөвшүүлэх амлалтыг агуулж байгаа хэдий ч тэдгээр нь ихэнхдээ хүмүүсийн хэвшсэн хэвшмэл ойлголтыг тусгаж, шударга бус явдалд хүргэдэг. Жишээлбэл, хиймэл оюун ухаан (AI) систем дэх өрөөсгөл ойлголт нь хортой хэвшмэл ойлголтыг санамсаргүйгээр улам дордуулдаг. Гэсэн хэдий ч хиймэл оюун ухааны системийг илүү шударга болгохын тулд хүчин чармайлт гаргаж байгаа боловч энэ нь ашиг тус, шударга байдлын хоорондын тэнцвэрт байдал, технологийн багуудын зохицуулалт, олон талт байдлын талаархи нарийн төвөгтэй асуултуудыг бий болгож байна.

    AI хэвийсэн ерөнхий нөхцөл байдал

    Мэдээлэлд суурилсан технологи нь хүн төрөлхтөнд шударга ёсыг бүх нийтийн жишиг болсон нийгмийг бий болгоход тусална гэж найдаж байна. Гэсэн хэдий ч өнөөгийн бодит байдал өөр дүр зургийг харуулж байна. Өнгөрсөн хугацаанд шударга бус байдалд хүргэсэн хүмүүсийн олон өрөөсгөл ойлголтууд одоо манай дижитал ертөнцийг удирдаж буй алгоритмуудад тусгалаа олсон байна. AI систем дэх эдгээр өрөөсгөл хандлага нь ихэвчлэн эдгээр системийг хөгжүүлдэг хүмүүсийн өрөөсгөл ойлголтоос үүдэлтэй бөгөөд эдгээр өрөөсгөл ойлголт нь тэдний ажилд байнга нэвтэрдэг.

    Жишээлбэл, 2012 онд ImageNet гэж нэрлэгддэг төслийг авч үзье, энэ нь машин сургалтын системийг сургах зорилгоор зургийн шошгололтыг краудсорсинг хийхийг оролдсон. Энэ өгөгдөл дээр бэлтгэгдсэн том мэдрэлийн сүлжээ нь дараа нь объектуудыг гайхалтай нарийвчлалтайгаар тодорхойлох боломжтой болсон. Гэсэн хэдий ч сайтар нягталж үзэхэд судлаачид ImageNet өгөгдөл дотор нуугдаж буй гажуудлыг олж илрүүлжээ. Нэгэн тохиолдолд, энэ өгөгдөл дээр бэлтгэгдсэн алгоритм нь бүх программистууд цагаан арьстнууд гэсэн таамаглалд нийцсэн байв.

    Энэхүү өрөөсгөл хандлага нь ажилд авах үйл явцыг автоматжуулсан үед эмэгтэйчүүдийг ийм үүрэг хариуцлага хүлээхгүй байхад хүргэж болзошгүй юм. "Эмэгтэй" гэсэн зурган дээр шошго нэмсэн хүн доромжилсон үг хэллэгээс бүрдсэн нэмэлт шошго оруулсан тул өгөгдлийн багцад өрөөсгөл ойлголт олсон. Энэ жишээ нь санаатай эсвэл санамсаргүй аль нь ч бай хамгийн боловсронгуй хиймэл оюун ухааны системд хүртэл хэрхэн нэвтэрч, хор хөнөөлтэй хэвшмэл ойлголт, тэгш бус байдлыг бий болгож болохыг харуулж байна.

    Сөрөг нөлөө 

    Өгөгдөл, алгоритмын гажуудлыг арилгах оролдлогыг янз бүрийн төрийн болон хувийн байгууллагуудын судлаачид эхлүүлсэн. Жишээлбэл, ImageNet төслийн хувьд краудсорсинг ашиглан тодорхой зургуудыг доромжилсон шошгоны нэр томъёог тодорхойлж, арилгахад ашигласан. Эдгээр арга хэмжээ нь хиймэл оюун ухааны системийг илүү шударга болгохын тулд дахин тохируулах боломжтой гэдгийг харуулсан.

    Гэсэн хэдий ч зарим шинжээчдийн үзэж байгаагаар хэт хазайлтыг арилгах нь өгөгдлийн багцыг үр дүн муутай болгож болзошгүй, ялангуяа олон талт хандлагатай үед. Тодорхой хэвийхээс хасагдсан өгөгдлийн багц нь үр дүнтэй ашиглахад хангалттай мэдээлэлгүй байж болно. Энэ нь үнэхээр олон янзын зургийн өгөгдлийн багц ямар байх вэ, мөн үүнийг хэрхэн ашиглах боломжтой вэ гэсэн асуулт гарч ирдэг.

    Энэхүү хандлага нь хиймэл оюун ухаан болон өгөгдөлд суурилсан технологийг ашиглахад нухацтай хандах шаардлагатай байгааг харуулж байна. Компаниудын хувьд энэ нь гажуудлыг илрүүлэх хэрэгсэлд хөрөнгө оруулалт хийж, технологийн багуудын олон талт байдлыг дэмжих гэсэн үг юм. Засгийн газруудын хувьд энэ нь хиймэл оюун ухааныг шударгаар ашиглах зохицуулалтыг хэрэгжүүлэхтэй холбоотой байж болох юм. 

    Хиймэл оюун ухааны гажуудлын үр дагавар

    AI хэвийх байдлын өргөн хүрээний үр дагавар нь дараахь зүйлийг агуулж болно.

    • Бүтээмж, гүйцэтгэлийг сайжруулахын тулд хиймэл оюун ухааныг ашигладаг байгууллагууд шударга ёс, ялгаварлан гадуурхахгүй байх тал дээр идэвхтэй ажиллаж байна. 
    • Төслийн эхэн үед ёс зүйн эрсдлийг илрүүлэх, бууруулах зорилгоор хөгжүүлэлтийн багуудад хиймэл оюун ухааны ёс зүйчтэй байх. 
    • Хүйс, арьс өнгө, анги, соёл зэрэг олон талт хүчин зүйлсийг агуулсан хиймэл оюун ухааны бүтээгдэхүүнийг зохион бүтээх.
    • Компанийн хиймэл оюун ухааны бүтээгдэхүүнийг худалдаанд гаргахаас өмнө туршихын тулд ашигладаг олон төрлийн бүлгүүдийн төлөөлөгчдийг авах.
    • Төрийн янз бүрийн үйлчилгээг олон нийтийн тодорхой гишүүдээс хязгаарлаж байна.
    • Олон нийтийн тодорхой гишүүд тодорхой ажлын байрыг олж авах эсвэл шаардлага хангах боломжгүй байдаг.
    • Хууль сахиулах байгууллага, мэргэжлийн хүмүүс бусдаас илүү нийгмийн тодорхой гишүүдийг шударга бусаар онилдог. 

    Анхаарах асуултууд

    • Ирээдүйд автоматжуулсан шийдвэр гаргах нь шударга болно гэж өөдрөгөөр харж байна уу?
    • AI шийдвэр гаргах нь таныг хамгийн их сандаргадаг вэ?

    Үзэл баримтлалын лавлагаа

    Энэхүү ойлголтыг авахын тулд дараах алдартай болон институцийн холбоосыг ашигласан болно: