Quantumrun

ЗУРГИЙН ЗЭЭЛ:

iStock

Асуудалтай сургалтын өгөгдөл: AI-д хэт нэг талыг барьсан өгөгдлийг заах үед

Хиймэл оюун ухааны системийг заримдаа түүний үйлдэл, шийдвэр гаргахад нөлөөлж болох субьектив өгөгдөлтэй танилцуулдаг.

Зохиогчийн тухай:
Зохиогчийн нэр
Quantumrun Foresight
Аравдугаар сар 14, 2022

Үзэл баримтлалын хураангуй

Бид юу сурч, өөртөө шингээж авдаг; Энэ үг нь хиймэл оюун ухаанд (AI) бас хамаатай. Бүрэн бус, өрөөсгөл, ёс зүйгүй мэдээллээр хангагдсан машин сургалтын (ML) загварууд нь эцэстээ асуудалтай шийдвэр, саналуудыг гаргах болно. Хэрэв судлаачид болгоомжтой хандахгүй бол эдгээр хүчирхэг алгоритмууд нь хэрэглэгчдийн ёс суртахуун, ойлголтод нөлөөлж болзошгүй.

Асуудалтай сургалтын мэдээллийн контекст

2010-аад оноос хойш судалгааны багууд сургалтын мэдээллийн багцыг тохиромжгүй агуулгатай ашигласан эсвэл ёс зүйгүй цуглуулсан эсэхийг нягтлан шалгаж эхэлсэн. Жишээлбэл, 2016 онд Майкрософт компанийн MS-Celeb-1M мэдээллийн санд 10 өөр алдартнуудын 100,000 сая зургийг оруулсан байна. Гэсэн хэдий ч нэмэлт шалгалтын явцад сурвалжлагчдын олон зураг нь эзэмшигчийн зөвшөөрөлгүйгээр, янз бүрийн вэбсайтаас татаж авсан энгийн хүмүүсийн зургийг олж мэдэв.

Үүнийг ухаарсан ч өгөгдлийн багцыг Facebook болон Хятадын царай танигч SenseTime зэрэг томоохон компаниуд төрийн цагдаатай холбоотой хэвээр ашигласаар байна. Үүний нэгэн адил, Дьюк их сургуулийн кампус (DukeMTMC) дээр алхаж буй хүмүүсийн зургийг агуулсан мэдээллийн багц ч зөвшөөрөл аваагүй. Эцэст нь хоёр өгөгдлийн багцыг устгасан.

Массачусетсийн Технологийн Институтын (MIT) судлаачид асуудалтай сургалтын мэдээллийн хор хөнөөлтэй үр дагаврыг онцлон харуулахын тулд Норман хэмээх хиймэл оюун ухааныг бүтээж, график хүчирхийллийг онцолсон дэд материалаас зургийн тайлбар хийхийг заажээ. Дараа нь баг Норманыг ердийн өгөгдөл ашиглан бэлтгэгдсэн мэдрэлийн сүлжээний эсрэг байрлуулсан. Судлаачид хоёр системд Роршах бэхний толбо нийлүүлж, хиймэл оюун ухаанаас харсан зүйлээ тайлбарлахыг хүссэн. Үр дүн нь гайхалтай байсан: стандарт мэдрэлийн сүлжээ нь "бейсболын бээлийний хар цагаан зургийг" харсан бол Норман "гэрэл өдрийн цагаар пулемётоор алагдсан хүнийг" ажиглав. Туршилт нь хиймэл оюун ухаан нь автоматаар нэг талыг барьсан биш боловч өгөгдөл оруулах аргууд болон тэдгээрийг бүтээгчдийн зорилго нь хиймэл оюун ухааны зан төлөвт ихээхэн нөлөөлдөг болохыг харуулсан.

Сөрөг нөлөө

2021 онд “Allen Institute for AI” судалгааны байгууллага ёс зүйн аливаа асуултын хариултыг алгоритмаар үүсгэдэг ML программ хангамж болох Ask Delphi-г бүтээжээ. Төслийн ард байгаа судлаачид хиймэл оюун ухаан аажмаар илүү хүчирхэг, танил болж байгаа тул эрдэмтэд эдгээр ML системийн ёс зүйг заах хэрэгтэй гэж мэдэгджээ. Unicorn ML загвар нь Delphi-ийн үндэс суурь юм. Энэ нь текстийн мөрийн хамгийн их магадлалтай төгсгөлийг сонгох гэх мэт "эрүүл ухаан"-ын үндэслэлийг хэрэгжүүлэхэд зориулагдсан болно.

Цаашилбал, судлаачид "Commonsense Norm Bank"-ыг ашигласан. Энэ банк нь Reddit гэх мэт газруудаас хүмүүсийн ёс зүйн үнэлгээний 1.7 сая жишээнээс бүрддэг. Үүний үр дүнд Delphi-ийн гаралт нь холимог баг байсан. Делфи зарим асуултад (жишээ нь, эрэгтэй, эмэгтэй хүмүүсийн тэгш байдал гэх мэт) үндэслэлтэй хариулсан бол зарим сэдвээр Делфи шууд доромжилж байсан (жишээ нь, геноцид нь хүмүүсийг баярлуулсан л бол хүлээн зөвшөөрөх боломжтой).

Гэсэн хэдий ч Delphi AI нь туршлагаасаа суралцаж байгаа бөгөөд санал хүсэлт дээр үндэслэн хариултаа шинэчилж байх шиг байна. Загвар нь хийгдэж байгаа бөгөөд эргэлзээтэй хариулт өгөх хандлагатай байгаа тул судалгааны олон нийтэд нээлттэй, ашиглахад зарим шинжээчид санаа зовж байна. Ask Delphi-г дебютээ хийх үед Иллинойс Техникийн Түүхийн профессор, жендэр, хөдөлмөр, компьютерийн түүхийн чиглэлээр мэргэшсэн Мар Хикс хэлэхдээ Делфи тэр дороо маш ёс зүйгүй хариулт өгсөн гэж үзэн хүмүүсийг үүнийг ашиглахыг урих нь судлаачдын хайхрамжгүй байдал гэж хэлсэн. бүрэн утгагүй зүйл.

2023 онд Дэлхийн үлдсэн хэсэг AI дүрс үүсгэгчийн хэвийх байдлын талаар судалгаа хийсэн. Судлаачид Midjourney ашиглан бүтээсэн зургууд нь одоо байгаа хэвшмэл ойлголтыг баталж байгааг олж мэдэв. Нэмж дурдахад, OpenAI DALL-E 2 зураг үүсгэх загвартаа сургалтын өгөгдөлд шүүлтүүр хэрэглэх үед хүйстэй холбоотой гажуудлыг санамсаргүйгээр эрчимжүүлсэн.

Асуудалтай сургалтын мэдээллийн үр дагавар

Асуудалтай сургалтын мэдээллийн өргөн хүрээний үр дагавар нь дараахь зүйлийг агуулж болно.

Судалгааны төсөл, үйлчилгээ, хөтөлбөр боловсруулахад хэт нэг талыг барьсан. Асуудалтай сургалтын мэдээллийг хууль сахиулах болон банкны байгууллагуудад (жишээлбэл, цөөнхийн бүлэгт сөрөг нөлөө үзүүлэх) ашиглаж байгаа тохиолдолд ихээхэн хамааралтай.
Сургалтын мэдээллийн өсөлт, төрөл бүрийн хөрөнгө оруулалт, хөгжлийг нэмэгдүүлсэн.
Корпорацууд янз бүрийн арилжааны санаачилгад сургалтын өгөгдлийг хэрхэн хөгжүүлэх, худалдах, ашиглахыг хязгаарлахын тулд илүү олон засгийн газрууд зохицуулалтыг нэмэгдүүлж байна.
AI системээр хэрэгжиж буй төслүүдийг ёс зүйн удирдамжийг дагаж мөрдөхийг баталгаажуулахын тулд олон бизнесүүд ёс зүйн хэлтэс байгуулж байна.
Эрүүл мэндийн салбарт хиймэл оюун ухааны ашиглалтын хяналтыг сайжруулснаар өгөгдлийн засаглалыг чангатгаж, өвчтөний хувийн нууцлалыг хангаж, хиймэл оюун ухааны ёс зүйн хэрэглээг хангана.
Хиймэл оюун ухаан давамгайлсан ирээдүйд ажиллах боловсон хүчнийг ур чадвараар хангаж, хиймэл оюун ухааны мэдлэгийг дээшлүүлэх зорилгоор төр, хувийн хэвшлийн хамтын ажиллагааг нэмэгдүүлсэн.
Хиймэл оюун ухааны ил тод байдлын хэрэгслүүдийн эрэлт нэмэгдэж, хэрэглэгчдийн ойлголт, итгэлцлийг бий болгохын тулд AI систем дэх тайлбарлах чадварыг урьтал болгодог компаниудыг тэргүүлж байна.