Технологийн ёс зүйн удирдамж: Худалдаа судалгаа хийх үед

• Зохиогчийн тухай:
• Зохиогчийн нэр

  Quantumrun Foresight
• Хоёрдугаар сарын 15, 2023

Үзэл баримтлалын хураангуй

Хиймэл оюун ухаан (AI) систем нь цөөнхийн бүлэгт учирч болзошгүй аюул, алгоритмын гажуудлаас болж холбооны олон агентлаг, компаниуд хиймэл оюун ухааныг хэрхэн хөгжүүлж, нэвтрүүлэх талаар ёс зүйн удирдамж нийтлэхийг технологийн үйлчилгээ үзүүлэгчдээс шаардаж байна. Гэсэн хэдий ч эдгээр удирдамжийг бодит амьдрал дээр хэрэгжүүлэх нь илүү төвөгтэй бөгөөд бүрхэг юм.

Ёс суртахууны зөрчилдөөний нөхцөл байдал

Цахиурын хөндийд бизнес эрхлэгчид ёс зүйн зарчмуудыг практикт хэрхэн хамгийн сайн хэрэгжүүлэх талаар судалж, тэр дундаа “ёс зүйг нэн тэргүүнд тавихад ямар үнэтэй вэ?” гэсэн асуултыг асуусаар байна. 2 оны 2020-р сарын XNUMX-нд Google-ийн ёс зүйн хиймэл оюун ухааны багийн ахлагч Тимнит Гебру ажлаасаа халагдсан тухай твиттер хуудсандаа нийтэлжээ. Тэрээр хиймэл оюун ухаан, нүүр царайг таних судалгаандаа ихээхэн нэр хүндтэй байсан. Түүнийг ажлаас халахад хүргэсэн үйл явдал нь Google-ээс тэдний хэвлэх стандартад нийцэхгүй гэж үзсэн түүний хамтран бичсэн нийтлэлтэй холбоотой байв. 

Гэсэн хэдий ч Гебру болон бусад хүмүүс халах нь ахиц дэвшил гэхээсээ илүү олон нийттэй харилцах шалтгаан болсон гэж үзэж байна. Гебру хүний ​​хэлийг дуурайдаг хиймэл оюун ухаан нь гадуурхагдсан популяцид хэрхэн хор хөнөөл учруулж болох талаарх судалгааг нийтлэхгүй байх тушаалд эргэлзсэний дараа ажлаас халагдсан байна. 2021 оны XNUMX-р сард Гебругийн хамтран зохиогч Маргарет Митчелл мөн ажлаасаа халагдсан. 

Митчелл компаниас гадуур цахим файлуудыг зөөж, компанийн ёс зүйн дүрэм, аюулгүй байдлын бодлогыг зөрчсөн гэж Google мэдэгдэв. Митчелл түүнийг ажлаас нь халсан үндэслэлийн талаар дэлгэрэнгүй мэдээлэл өгөөгүй. Энэхүү алхам нь шүүмжлэлийг дагуулж, Google-ийг 2021 оны XNUMX-р сар гэхэд олон талт байдал, судалгааны бодлогодоо өөрчлөлт оруулахаа зарлахад хүргэсэн. Энэ үйл явдал бол ёс зүйн зөрчилдөөн нь том технологийн фирмүүд болон тэдгээрийн объектив гэгддэг судалгааны хэлтсүүдийг хэрхэн хувааж байгаагийн нэг жишээ юм.

Сөрөг нөлөө

Harvard Business Review сэтгүүлд бичсэнээр бизнес эрхлэгчдэд тулгардаг хамгийн том сорилт бол ёс зүйн хямралд хариу үйлдэл үзүүлэх гадны дарамт болон өөрсдийн компани, салбарынхаа дотоод шаардлагын тэнцвэрийг олох явдал юм. Гадны шүүмжлэл нь компаниудыг бизнесийн үйл ажиллагаагаа дахин үнэлэхэд хүргэдэг. Гэсэн хэдий ч менежментийн дарамт шахалт, салбарын өрсөлдөөн, бизнесийг хэрхэн явуулах талаар зах зээлийн ерөнхий хүлээлт нь заримдаа одоогийн нөхцөл байдлыг дэмжсэн сөрөг урамшууллыг бий болгодог. Иймээс, соёлын хэм хэмжээ хөгжиж, компаниуд (ялангуяа нөлөө бүхий технологийн пүүсүүд) шинэ орлого олохын тулд хэрэгжүүлж болох шинэ бизнесийн арга барилынхаа хил хязгаарыг үргэлжлүүлэн шахах тусам ёс зүйн зөрчилдөөн нэмэгдэх болно.

Энэхүү ёс суртахууны тэнцвэртэй байдлын төлөө тэмцэж буй корпорацуудын өөр нэг жишээ бол Мета компани юм. Олон нийтэд ил болсон ёс суртахууны дутагдлаа арилгахын тулд Facebook 2020 онд бие даасан хяналтын зөвлөл байгуулж, үүсгэн байгуулагч Марк Зукербергийн гаргасан контентыг зохицуулах шийдвэрийг хүртэл хүчингүй болгох эрхтэй. 2021 оны XNUMX-р сард тус хороо маргаантай агуулгын талаар анхны шийдвэрээ гаргаж, үзсэн ихэнх хэргүүдийг хүчингүй болгосон. 

Гэсэн хэдий ч Facebook дээр өдөр бүр олон тэрбум нийтлэл гарч, тоо томшгүй олон тооны контентын гомдол байдаг тул хяналтын зөвлөл нь уламжлалт засгийн газруудаас хамаагүй удаан ажилладаг. Гэсэн хэдий ч Удирдах зөвлөлөөс хэд хэдэн үндэслэлтэй зөвлөмж гаргасан. 2022 онд тус зөвлөл Meta Platforms-д Facebook дээр нийтлэгдсэн доксинг үйлдлүүдийг таслан зогсоохыг зөвлөж, хэрэглэгчдэд хувь хүмүүсийн гэрийн хаягийг олон нийтэд нээлттэй байсан ч платформ дээр хуваалцахыг хориглов. Удирдах зөвлөл мөн Facebook-д зөрчил яагаад гарч байгаа, түүнийг хэрхэн шийдвэрлэж байгаа талаар ил тод тайлбарлах харилцаа холбооны суваг нээхийг уриалав.

Хувийн хэвшлийн ёс зүйн зөрчилдөөний үр дагавар

Хувийн хэвшил дэх ёс зүйн зөрчлийн өргөн хүрээний үр дагавар нь дараахь зүйлийг агуулж болно. 

• Өөрсдийн бизнесийн үйл ажиллагаанд ёс зүйн удирдамжийн хэрэгжилтэд хяналт тавих бие даасан ёс зүйн зөвлөлүүдийг байгуулдаг компаниуд нэмэгдсээр байна.
• Технологийн судалгааг хэрхэн арилжаалах нь илүү эргэлзээтэй практик, тогтолцоог бий болгоход хүргэсэн талаар академиас шүүмжлэл ихэссэн.
• Технологийн фирмүүд авъяаслаг олон нийтийн болон их сургуулийн хиймэл оюун ухаан судлаачдыг хайж олсноор их хэмжээний цалин, тэтгэмж санал болгосноор төрийн салбарын тархины урсгал нэмэгдсээр байна.
• Технологийн үйлчилгээ үзүүлдэг эсэхээс үл хамааран бүх пүүсүүдээс ёс зүйн удирдамжаа нийтлэхийг засгийн газрууд улам бүр шаардаж байна.
• Илүү илэн далангүй судлаачид ашиг сонирхлын зөрчлөөс болж томоохон компаниудаас халагдаж, зөвхөн хурдан солигдоно.

Анхаарах асуултууд

• Ёс суртахууны зөрчил нь хэрэглэгчдийн хүлээн авч буй бүтээгдэхүүн, үйлчилгээнд хэрхэн нөлөөлнө гэж та бодож байна вэ?
• Пүүсүүд технологийн судалгааныхаа ил тод байдлыг хангахын тулд юу хийж чадах вэ?