ပြဿနာရှိသော လေ့ကျင့်ရေးဒေတာ- AI ကို ဘက်လိုက်သောဒေတာကို သင်ကြားသည့်အခါ

• Author:
• စာရေးသူနာမည်

  Quantumrun Foresight
• အောက်တိုဘာလ 14, 2022

ဝိပဿနာ အကျဉ်းချုပ်

ကျွန်ုပ်တို့သည် ကျွန်ုပ်တို့ သင်ယူပြီး အတွင်းပိုင်းအရာများဖြစ်သည်။ ဤအမိန့်စာသည် ဉာဏ်ရည်တု (AI) နှင့်လည်း သက်ဆိုင်ပါသည်။ မပြည့်စုံသော၊ ဘက်လိုက်မှုနှင့် ကျင့်ဝတ်သိက္ခာမဲ့ဒေတာများဖြင့် ဖြည့်သွင်းထားသော စက်သင်ယူမှု (ML) မော်ဒယ်များသည် နောက်ဆုံးတွင် ပြဿနာရှိသော ဆုံးဖြတ်ချက်များနှင့် အကြံပြုချက်များကို ပြုလုပ်နိုင်မည်ဖြစ်သည်။ သုတေသီများသတိမထားပါက ဤအားကောင်းသော အယ်လဂိုရီသမ်များသည် သုံးစွဲသူများ၏ ကိုယ်ကျင့်တရားနှင့် ခံယူချက်များကို လွှမ်းမိုးနိုင်မည်ဖြစ်သည်။

ပြဿနာရှိသော လေ့ကျင့်ရေး အချက်အလက် ဆက်စပ်

2010 ခုနှစ်များကတည်းက၊ သုတေသနအဖွဲ့များသည် လေ့ကျင့်ရေးဒေတာအတွဲများကို သင့်လျော်မှုမရှိသော အကြောင်းအရာများ သို့မဟုတ် ကျင့်ဝတ်သိက္ခာမဲ့စွာ စုဆောင်းအသုံးပြုခြင်းအတွက် စိစစ်ခဲ့သည်။ ဥပမာအားဖြင့်၊ 2016 ခုနှစ်တွင် Microsoft ၏ MS-Celeb-1M ဒေတာဘေ့စ်တွင် မတူညီသော နာမည်ကြီးပုဂ္ဂိုလ်ပေါင်း 10 ၏ ရုပ်ပုံပေါင်း 100,000 သန်း ပါဝင်ခဲ့သည်။ သို့သော်လည်း ထပ်မံစစ်ဆေးပြီးနောက် သတင်းထောက်များက ဓာတ်ပုံအများအပြားသည် ပိုင်ရှင်၏ခွင့်ပြုချက် သို့မဟုတ် အသိပညာမရှိဘဲ ဝဘ်ဆိုဒ်အမျိုးမျိုးမှ ဆွဲယူလာခြင်းဖြစ်ကြောင်း သတင်းထောက်များက တွေ့ရှိခဲ့သည်။

ယင်းအချက်ကို သိရှိထားသော်လည်း၊ ပြည်နယ်ရဲတပ်ဖွဲ့နှင့် ချိတ်ဆက်ထားသော တရုတ်မျက်နှာအသိအမှတ်ပြုကုမ္ပဏီဖြစ်သည့် Facebook နှင့် SenseTime ကဲ့သို့သော ကုမ္ပဏီကြီးများက ဒေတာအစုံကို ဆက်လက်အသုံးပြုခဲ့သည်။ အလားတူ၊ Duke University ၏ ကျောင်းဝင်း (DukeMTMC) တွင် လမ်းလျှောက်နေသူများ ပုံများပါရှိသော ဒေတာအစုံသည် သဘောတူညီချက်ကို ကောက်ယူထားခြင်းလည်း မရှိပါ။ နောက်ဆုံးတွင်၊ ဒေတာအတွဲနှစ်ခုလုံးကို ဖယ်ရှားခဲ့သည်။ 

ပြဿနာရှိသော လေ့ကျင့်ရေးဒေတာ၏ ပျက်စီးစေသော အကျိုးသက်ရောက်မှုများကို မီးမောင်းထိုးပြရန်၊ Massachusetts Institute of Technology (MIT) မှ သုတေသီများသည် ဂရပ်ဖစ်အကြမ်းဖက်မှုကို မီးမောင်းထိုးပြသည့် subreddit တစ်ခုမှ ပုံစာတန်းထိုးခြင်းလုပ်ဆောင်ရန် သင်ကြားပေးသည့် Norman ဟုခေါ်သော AI ကို ဖန်တီးခဲ့သည်။ ထို့နောက် အဖွဲ့သည် သမားရိုးကျ ဒေတာကို အသုံးပြု၍ လေ့ကျင့်ထားသော အာရုံကြောကွန်ရက်ကို ဆန့်ကျင်ကာ Norman အား နေရာချခဲ့သည်။ သုတေသီများသည် စနစ်နှစ်ခုလုံးကို Rorschach inkblots များဖြင့် ပံ့ပိုးပေးပြီး AIs များကို ၎င်းတို့မြင်ခဲ့ရပုံကို ဖော်ပြရန် တောင်းဆိုခဲ့သည်။ ရလဒ်များသည် အံ့မခန်းဖြစ်နေသည်- "ဘေ့စ်ဘောလက်အိတ်၏ အဖြူအမည်းဓာတ်ပုံကို မြင်လိုက်ရသည့်နေရာ" Norman က "နေ့ခင်းကြောင်တောင် စက်သေနတ်ဖြင့် အသတ်ခံရသော အမျိုးသားတစ်ဦး" ကို တွေ့ရှိခဲ့သည်။ စမ်းသပ်မှုတွင် AI သည် အလိုအလျောက်ဘက်လိုက်သည်မဟုတ်ကြောင်း သက်သေပြခဲ့သော်လည်း အဆိုပါဒေတာထည့်သွင်းမှုနည်းလမ်းများနှင့် ၎င်းတို့၏ဖန်တီးသူများ၏ စေ့ဆော်မှုသည် AI ၏အပြုအမူကို သိသိသာသာအကျိုးသက်ရောက်စေနိုင်သည်။

အနှောင့်အယှက်ဖြစ်စေတယ်။

2021 ခုနှစ်တွင် AI သုတေသနအဖွဲ့အစည်း Allen Institute သည် ကျင့်ဝတ်ဆိုင်ရာမေးခွန်းများအတွက် အဖြေများအတွက် algorithmally ထုတ်ပေးသည့် ML ဆော့ဖ်ဝဲတစ်ခုဖြစ်သည့် Ask Delphi ကို ဖန်တီးခဲ့သည်။ ပရောဂျက်နောက်ကွယ်က သုတေသီတွေက AI ဟာ တဖြည်းဖြည်းနဲ့ ပိုမိုအားကောင်းလာပြီး ရင်းနှီးလာတဲ့အတွက် သိပ္ပံပညာရှင်တွေဟာ ဒီ ML စနစ်ကျင့်ဝတ်တွေကို သင်ကြားပေးဖို့ လိုအပ်တယ်လို့ ဆိုပါတယ်။ Unicorn ML မော်ဒယ်သည် Delphi ၏အခြေခံဖြစ်သည်။ စာသားလိုင်းတစ်ခုသို့ ဖြစ်နိုင်ခြေအရှိဆုံးအဆုံးသတ်ကို ရွေးချယ်ခြင်းကဲ့သို့သော "သာမန်အသိတရား" ကျိုးကြောင်းဆင်ခြင်မှုကို လုပ်ဆောင်ရန် ၎င်းကို ပုံဖော်ထားသည်။ 

ထို့အပြင် သုတေသီများသည် 'Commonsense Norm Bank' ကို အသုံးပြုခဲ့သည်။ ဤဘဏ်တွင် Reddit ကဲ့သို့သော နေရာများမှ လူများ၏ ကျင့်ဝတ်ဆိုင်ရာ အကဲဖြတ်မှု နမူနာ 1.7 သန်း ပါဝင်ပါသည်။ ရလဒ်အနေဖြင့် Delphi ၏ထွက်ရှိမှုသည် ရောနှောထားသောအိတ်တစ်ခုဖြစ်သည်။ Delphi သည် အချို့သောမေးခွန်းများကို ကျိုးကြောင်းဆီလျော်စွာဖြေကြားခဲ့သည် (ဥပမာ၊ အမျိုးသားနှင့်အမျိုးသမီးကြား တန်းတူညီမျှမှု) ဖြစ်သော်လည်း အချို့သောအကြောင်းအရာများတွင် Delphi သည် ပြင်းထန်စွာစော်ကားခဲ့သည် (ဥပမာ၊ လူမျိုးတုံးသတ်ဖြတ်မှုသည် လူများကိုပျော်ရွှင်စေသရွေ့ လက်ခံနိုင်သည်)။

သို့သော်လည်း Delphi AI သည် ၎င်း၏အတွေ့အကြုံများမှ သင်ယူနေပြီး တုံ့ပြန်ချက်အပေါ်အခြေခံ၍ ၎င်း၏အဖြေများကို အပ်ဒိတ်လုပ်နေပုံရသည်။ အချို့သော ပညာရှင်များသည် သုတေသန၏ အများသူငှာ ပွင့်လင်းမြင်သာစွာ အသုံးပြုမှုကြောင့် စိတ်ပူပန်နေကြပြီး မော်ဒယ်သည် လုပ်ဆောင်ဆဲဖြစ်ပြီး မှားယွင်းသော အဖြေများ ဖြစ်နိုင်သည်ဟု ယူဆပါသည်။ Ask Delphi ကို ပွဲဦးထွက်ချိန်တွင်၊ Illinois Tech မှ သမိုင်းပါမောက္ခ Mar Hicks က လိင်၊ လုပ်အားနှင့် တွက်ချက်မှုသမိုင်းကို အထူးပြုထားသော သုတေသီများက ၎င်းကိုအသုံးပြုရန် လူများကိုဖိတ်ခေါ်ရန် သုတေသီများက လစ်လျူရှုထားသည်ဟု ဆိုသည်။ လုံးဝ ပေါက်ကရ။ 

2023 ခုနှစ်, ကမ္ဘာ့ဖလားအရာကြွင်းလေ AI ရုပ်ပုံဂျင်နရေတာများတွင် ဘက်လိုက်မှုဆိုင်ရာ လေ့လာမှုတစ်ခုကို ပြုလုပ်ခဲ့သည်။ Midjourney ကို အသုံးပြု၍ ထုတ်လုပ်လိုက်သော ပုံများသည် ရှိပြီးသား stereotypes များကို အတည်ပြုကြောင်း သုတေသီများက ရှာဖွေတွေ့ရှိခဲ့သည်။ ထို့အပြင်၊ OpenAI သည် ၎င်း၏ DALL-E 2 ရုပ်ပုံမျိုးဆက်မော်ဒယ်အတွက် လေ့ကျင့်မှုဒေတာတွင် စစ်ထုတ်မှုများကို အသုံးချသောအခါ၊ ၎င်းသည် လိင်နှင့်ပတ်သက်သည့် ဘက်လိုက်မှုများကို မရည်ရွယ်ဘဲ ပြင်းထန်လာစေခဲ့သည်။

ပြဿနာရှိသော လေ့ကျင့်မှုဒေတာ၏ သက်ရောက်မှုများ

ပြဿနာရှိသော လေ့ကျင့်ရေးဒေတာ၏ ကျယ်ပြန့်သောသက်ရောက်မှုများ ပါဝင်နိုင်သည်- 

• သုတေသနပရောဂျက်များ၊ ဝန်ဆောင်မှုများနှင့် ပရိုဂရမ် ဖွံ့ဖြိုးတိုးတက်ရေးတွင် ဘက်လိုက်မှုများကို အားဖြည့်ထားသည်။ အထူးသဖြင့် တရားဥပဒေစိုးမိုးရေးနှင့် ဘဏ်လုပ်ငန်းအဖွဲ့အစည်းများ (ဥပမာ၊ လူနည်းစုအုပ်စုများကို ဆိုးရွားစွာ ပစ်မှတ်ထား) တွင် အသုံးပြုပါက ပြဿနာရှိသော သင်တန်းဒေတာကို အထူးသဖြင့် သက်ဆိုင်ပါသည်။
• လေ့ကျင့်ရေးဒေတာ တိုးတက်မှုနှင့် အမျိုးအစားခွဲမှုတွင် ရင်းနှီးမြှုပ်နှံမှုနှင့် ဖွံ့ဖြိုးတိုးတက်မှု တိုးလာသည်။ 
• ကော်ပိုရေးရှင်းများ မည်ကဲ့သို့ ဖွံ့ဖြိုးတိုးတက်ရန်၊ ရောင်းချခြင်းနှင့် လေ့ကျင့်ရေးဒေတာကို အသုံးပြုခြင်းအား ကန့်သတ်ရန် အစိုးရများသည် စည်းမျဥ်းများ တိုးမြှင့်လာသည်။
• AI စနစ်များဖြင့် ပံ့ပိုးထားသော ပရောဂျက်များသည် ကျင့်ဝတ်ဆိုင်ရာ လမ်းညွှန်ချက်များကို လိုက်နာကြောင်း သေချာစေရန် ကျင့်ဝတ်ဆိုင်ရာဌာနများကို ထူထောင်သည့် လုပ်ငန်းများ ပိုမိုများပြားသည်။
• လူနာ၏ကိုယ်ရေးကိုယ်တာနှင့် ကျင့်ဝတ်ဆိုင်ရာ AI အပလီကေးရှင်းကို အာမခံချက်ပေးသည့် တင်းကျပ်သောဒေတာအုပ်ချုပ်မှုကိုဖြစ်စေသည့် ကျန်းမာရေးစောင့်ရှောက်မှုတွင် AI ကိုအသုံးပြုမှုအပေါ် တိုးမြှင့်စိစစ်ထားသည်။
• AI လွှမ်းမိုးထားသော အနာဂတ်အတွက် လုပ်သားအင်အားကို ကျွမ်းကျင်မှုဖြင့် AI တတ်မြောက်မှုကို မြှင့်တင်ရန်အတွက် အစိုးရနှင့် ပုဂ္ဂလိကကဏ္ဍ ပူးပေါင်းဆောင်ရွက်မှုကို တိုးမြှင့်ဆောင်ရွက်ပါ။
• AI ပွင့်လင်းမြင်သာမှု ကိရိယာများ ၀ယ်လိုအား မြင့်တက်လာပြီး စားသုံးသူများ နားလည်မှုနှင့် ယုံကြည်မှုအတွက် AI စနစ်များတွင် ရှင်းပြနိုင်မှုကို ဦးစားပေးလုပ်ဆောင်ရန် ကုမ္ပဏီများကို ဦးဆောင်သည်။

စဉ်းစားရန်မေးခွန်းများ

• အဖွဲ့အစည်းများသည် ပြဿနာရှိသော လေ့ကျင့်ရေးဒေတာကို မည်သို့ရှောင်ရှားနိုင်မည်နည်း။
• ကျင့်ဝတ်မဲ့လေ့ကျင့်မှုဒေတာ၏ အခြားဖြစ်နိုင်သောအကျိုးဆက်များကား အဘယ်နည်း။