Франкен-Алгоритмууд: Алгоритмууд хуурамч болсон

• Зохиогчийн тухай:
• Зохиогчийн нэр

  Quantumrun Foresight
• Дөрөвдүгээр сар 12, 2023

Машин сургалтын (ML) алгоритмууд улам боловсронгуй болохын хэрээр тэд том өгөгдлийн багц дахь хэв маягт бие даан суралцаж, дасан зохицох боломжтой болдог. "Бие даасан суралцах" гэж нэрлэгддэг энэхүү үйл явц нь шийдвэр гаргах алгоритмыг өөрийн код эсвэл дүрмийг бий болгоход хүргэдэг. Үүний асуудал нь алгоритмаар үүсгэгдсэн код нь хүмүүст ойлгоход хэцүү эсвэл боломжгүй байж болох тул өрөөсгөл талыг тодорхойлоход хэцүү болгодог. 

Франкен-Алгоритмуудын контекст

Франкен-Алгоритм гэдэг нь алгоритмуудыг (компьютерийн өгөгдөл боловсруулах, командуудад хариулахдаа дагаж мөрддөг дүрэм) маш нарийн төвөгтэй, хоорондоо уялдаа холбоотой болсон тул хүмүүс тэдгээрийг тайлж чадахгүй болсон гэж хэлдэг. Энэ нэр томъёо нь галзуу эрдэмтэн доктор Франкенштейн бүтээсэн "мангас"-ын тухай Мэри Шеллигийн шинжлэх ухааны зөгнөлт зохиолд толгой дохиж буй хэрэг юм. Алгоритм, кодууд нь том технологийн барилгын материал бөгөөд Facebook болон Google-ийг одоогийн нөлөө бүхий компани болгох боломжийг олгосон ч хүмүүсийн мэдэхгүй технологийн талаар маш их зүйл байсаар байна. 

Программистууд код бүтээж, программ хангамжаар дамжуулан ажиллуулах үед ML нь компьютерт загварыг ойлгож, таамаглах боломжийг олгодог. Том технологи нь алгоритмууд нь хүний ​​сэтгэл хөдлөл, урьдчилан таамаглах боломжгүй байдал тэдэнд нөлөөлдөггүй тул объектив байдаг гэж мэдэгдэж байгаа ч эдгээр алгоритмууд хувьсан өөрчлөгдөж, өөрсдийн дүрмийг бичиж, гамшигт үр дүнд хүргэдэг. Эдгээр алгоритмаар үүсгэгдсэн код нь ихэвчлэн нарийн төвөгтэй, тунгалаг байдаг тул судлаачид эсвэл дадлагажигчдад алгоритмын шийдвэрийг тайлбарлах эсвэл алгоритмын шийдвэр гаргах үйл явцад байж болох аливаа гажуудлыг тодорхойлоход хүндрэлтэй байдаг. Энэхүү саад тотгор нь шийдвэр гаргахдаа эдгээр алгоритмд тулгуурладаг бизнес эрхлэгчдэд томоохон сорилтуудыг үүсгэж болзошгүй тул шийдвэрийн цаад шалтгааныг ойлгох, тайлбарлах боломжгүй байж магадгүй юм.

Сөрөг нөлөө

Франкен-Алгоритмууд хууран мэхлэх үед энэ нь амьдрал, үхлийн асуудал байж болно. Үүний нэг жишээ бол 2018 онд Аризона мужид өөрөө жолоодлоготой машин дугуй унаж явсан эмэгтэйг мөргөж, амь насаа алдсан осол юм. Машины алгоритмууд түүнийг хүн гэдгийг зөв тодорхойлох боломжгүй байв. Мэргэжилтнүүд ослын үндсэн шалтгааныг олж мэдээд - машин буруу програмчлагдсан уу, алгоритм нь өөрийн сайн сайхны төлөө хэтэрхий төвөгтэй болсон уу? Гэхдээ программистуудын санал нийлж чадах зүйл бол програм хангамжийн компаниудад хяналт тавих тогтолцоо буюу ёс зүйн дүрэм байх ёстой. 

Гэсэн хэдий ч, энэ ёс зүйн дүрэм нь том технологийн зарим түлхэцтэй ирдэг, учир нь тэд өгөгдөл, алгоритм зарах бизнес эрхэлдэг бөгөөд зохицуулалт хийх, ил тод байхыг шаарддаггүй. Нэмж дурдахад, томоохон технологийн ажилтнуудын санааг зовоож буй сүүлийн үеийн хөгжил бол Google-ийн АНУ-ын Батлан ​​хамгаалах яамтай хамтран автомат жолоодлоготой нисгэгчгүй онгоц гэх мэт цэргийн технологид алгоритмуудыг нэгтгэх зэрэг алгоритмуудыг цэргийн хүрээнд ашиглах нь нэмэгдэж байгаа явдал юм. Энэхүү програм нь зарим ажилчдыг ажлаасаа халагдаж, алгоритмуудыг алах машин болгон ашиглахад хэтэрхий урьдчилан тааварлашгүй хэвээр байна гэж мэргэжилтнүүд санаа зовниж байна. 

Өөр нэг санаа зовоосон асуудал бол Франкен-Алгоритмууд сургагдсан өгөгдлийн багцын улмаас хэвийх байдлыг үргэлжлүүлж, бүр өсгөж болзошгүй юм. Энэ үйл явц нь ялгаварлан гадуурхалт, тэгш бус байдал, хууль бус баривчилгаа зэрэг нийгмийн янз бүрийн асуудалд хүргэж болзошгүй юм. Эдгээр эрсдэл нэмэгдэж байгаа тул олон технологийн компаниуд алгоритмуудаа хэрхэн боловсруулж, ашиглаж, хянах талаар ил тод байх үүднээс хиймэл оюун ухааны ёс зүйн удирдамжаа нийтэлж эхэлж байна.

Франкен-Алгоритмуудад илүү өргөн хүрээтэй нөлөө

Франкен-Алгоритмуудын болзошгүй үр дагавар нь дараахь зүйлийг агуулж болно.

• Хүний хяналтгүйгээр шийдвэр гаргаж, арга хэмжээ авч чаддаг бие даасан системийг хөгжүүлэх, хариуцлага, аюулгүй байдлын талаар санаа зовдог. Гэсэн хэдий ч ийм алгоритмууд нь ихэнх салбар дахь хүний ​​​​хөдөлмөрийг автоматжуулах боломжтой програм хангамж, роботыг хөгжүүлэх зардлыг бууруулж чадна. 
• Алгоритмууд нь цэргийн технологийг хэрхэн автоматжуулж, бие даасан зэвсэг, тээврийн хэрэгслийг дэмжих талаар илүү нарийвчлан судлах.
• Алгоритмийн ёс зүй, дүрэм журмыг хэрэгжүүлэхийн тулд засгийн газрууд болон салбарын удирдагчдад үзүүлэх дарамт нэмэгдэв.
• Франкен-Алгоритмууд нь хүн ам зүйн тодорхой бүлгүүдэд, тухайлбал, бага орлоготой нийгэм, цөөнхийн хүн амд пропорциональ бус байдлаар нөлөөлдөг.
• Франкен-Алгоритмууд нь ажилд авах, зээл олгох зэрэг шийдвэр гаргалт дахь ялгаварлан гадуурхах, өрөөсгөл хандлагыг нэмэгдүүлж, өсгөж чадна.
• Эдгээр алгоритмуудыг кибер гэмт хэрэгтнүүд систем, ялангуяа санхүүгийн байгууллагуудын сул талыг хянах, ашиглахад ашигладаг.
• Олон нийтийн санаа бодолд нөлөөлж, сонгуулийг өдөөж болохуйц хиймэл оюун ухааны системийг ашиглан маркетингийн кампанит ажлыг автоматжуулахын тулд хуурамч алгоритмуудыг ашигладаг улс төрийн жүжигчид.

Анхаарах асуултууд

• Цаашид алгоритмууд хэрхэн хөгжинө гэж та бодож байна вэ?
• Засгийн газар болон компаниуд Франкен-Алгоритмуудыг хянахын тулд юу хийж чадах вэ?