AI ချိန်ညှိမှု- ဉာဏ်ရည်တုပန်းတိုင်များနှင့် ကိုက်ညီသော လူ့တန်ဖိုးများနှင့် ကိုက်ညီပါသည်။

• Author:
• စာရေးသူနာမည်

  Quantumrun Foresight
• ဇန်နဝါရီလ 25, 2023

Artificial Intelligence (AI) ချိန်ညှိခြင်းသည် AI စနစ်တစ်ခု၏ ရည်မှန်းချက်များသည် လူသားတန်ဖိုးများနှင့် ကိုက်ညီသောအခါဖြစ်သည်။ OpenAI၊ DeepMind နှင့် Anthropic ကဲ့သို့သော ကုမ္ပဏီများတွင် ယင်းကဲ့သို့ ဖြစ်ပေါ်လာနိုင်သည့် မတူညီသော အခြေအနေများအတွက် ကာရံများကို လေ့လာရန် တစ်ခုတည်းကိုသာ အာရုံစိုက်သည့် သုတေသီအဖွဲ့များရှိသည်။

AI ချိန်ညှိမှု အကြောင်းအရာ

2021 University of Cornell ၏ သုတေသနလေ့လာမှုတစ်ခုအရ လေ့လာမှုများစွာအရ algorithms မှ ဖန်တီးထားသော ကိရိယာများ သို့မဟုတ် မော်ဒယ်များသည် ၎င်းတို့လေ့ကျင့်သင်ကြားထားသည့် ဒေတာများမှ ဘက်လိုက်မှုများကို ဖော်ပြကြောင်းပြသခဲ့သည်။ ဥပမာအားဖြင့်၊ သဘာဝဘာသာစကားလုပ်ဆောင်ခြင်း (NLP) တွင်၊ အကန့်အသတ်ရှိသော ဒေတာအတွဲများပေါ်တွင် လေ့ကျင့်သင်ကြားထားသော NLP မော်ဒယ်များကို အမျိုးသမီးများအပေါ် အန္တရာယ်ရှိသော လိင်ပိုင်းဆိုင်ရာပုံစံများကို အခြေခံ၍ ခန့်မှန်းချက်များကို မှတ်တမ်းတင်ထားပါသည်။ အလားတူ၊ အခြားလေ့လာမှုများက အနှောင့်အယှက်ပေးသော ဒေတာအစုံတွင် လေ့ကျင့်ထားသော အယ်လဂိုရီသမ်များသည် လူမျိုးရေးအရ ဘက်လိုက်သော အကြံပြုချက်များကို ဖြစ်ပေါ်စေသည်၊ အထူးသဖြင့် ရဲတပ်ဖွဲ.

စက်သင်ယူမှုစနစ်များသည် လူနည်းစု သို့မဟုတ် အားနည်းချက်များစွာကို ခံစားနေကြရသော လူနည်းစုများအတွက် ပိုဆိုးစေသည့် ဥပမာများစွာရှိသည်။ အထူးသဖြင့်၊ အလိုအလျောက်မျက်နှာခွဲခြမ်းစိတ်ဖြာခြင်းနှင့် ကျန်းမာရေးစောင့်ရှောက်မှုဆိုင်ရာ ရောဂါရှာဖွေခြင်းများသည် ပုံမှန်အားဖြင့် အမျိုးသမီးများနှင့် အသားအရောင်ရှိသူများအတွက် ကောင်းစွာအလုပ်မလုပ်နိုင်ပါ။ ကျန်းမာရေးစောင့်ရှောက်မှု သို့မဟုတ် ပညာရေးကို ခွဲဝေပေးခြင်းကဲ့သို့သော အခြေအနေများတွင် စိတ်ခံစားချက်အစား အချက်အလက်နှင့် ယုတ္တိကိုအခြေခံသင့်သည့် အရေးပါသည့်စနစ်များကို အသုံးပြုသောအခါ၊ ၎င်းတို့သည် ဤအကြံပြုချက်များနောက်ကွယ်ရှိ ကျိုးကြောင်းဆင်ခြင်မှုကို ခွဲခြားသတ်မှတ်ရန် ပိုမိုခက်ခဲစေခြင်းဖြင့် ၎င်းတို့သည် ပိုမိုပျက်စီးနိုင်သည်။

ရလဒ်အနေဖြင့် နည်းပညာကုမ္ပဏီများသည် algorithms များကို တရားမျှတပြီး လူသားဆန်စွာထားရှိရန် အာရုံစိုက်ရန် AI ညှိပေးသည့်အဖွဲ့များကို ဖန်တီးလျက်ရှိသည်။ သုတေသနသည် ခေတ်မီ AI စနစ်များ၏ ဦးတည်ရာကို နားလည်ရန် မရှိမဖြစ်လိုအပ်ပြီး AI စွမ်းရည်များ ကြီးထွားလာသည်နှင့်အမျှ ကျွန်ုပ်တို့ရင်ဆိုင်ရမည့် စိန်ခေါ်မှုများ။

အနှောင့်အယှက်ဖြစ်စေတယ်။

OpenAI (2021) တွင် AI စနစ်များသည် 2010 ခုနှစ်များအတွင်းသာ စွမ်းရည်ရှိလာသောကြောင့် OpenAI (XNUMX) တွင် AI ချိန်ညှိမှုအကြီးအကဲ Jan Leike ၏အဆိုအရ AI ချိန်ညှိမှုသုတေသနအများစုသည် သီအိုရီလေးလံသည်ဟု နားလည်နိုင်သည်။ အလွန်အစွမ်းထက်သော AI စနစ်များကို ချိန်ညှိလိုက်သောအခါတွင် လူသားများရင်ဆိုင်ရမည့် စိန်ခေါ်မှုများထဲမှ တစ်ခုမှာ အဆိုပါစက်များသည် ကျင့်ဝတ်အရ ဆင်ခြင်သုံးသပ်ရန် နှင့် အကဲဖြတ်ရန် အလွန်ရှုပ်ထွေးသော ဖြေရှင်းချက်များကို ဖန်တီးနိုင်ခြင်းကြောင့်ဖြစ်သည်။

Leike သည် ဤပြဿနာကို ဖြေရှင်းရန် recursive reward modeling (RRM) နည်းဗျူဟာကို တီထွင်ခဲ့သည်။ RRM ဖြင့်၊ များစွာသော "ကူညီသူ" AI များသည် လူသားတစ်ဦးအား ပိုမိုရှုပ်ထွေးသော AI စွမ်းဆောင်ရည်မည်မျှ ကောင်းမွန်ကြောင်း အကဲဖြတ်ရန် သင်ကြားပေးပါသည်။ သူသည် "alignment MVP" အဖြစ်ရည်ညွှန်းသည့်အရာတစ်ခုကိုဖန်တီးနိုင်ခြေကိုအကောင်းမြင်သည်။ startup ဝေါဟာရအရ MVP (သို့မဟုတ် အနည်းဆုံး ဖြစ်နိုင်ချေရှိသော ထုတ်ကုန်) သည် အိုင်ဒီယာတစ်ခုကို စမ်းသပ်ရန်အတွက် ကုမ္ပဏီမှ တည်ဆောက်နိုင်သော အရိုးရှင်းဆုံး ဖြစ်နိုင်ချေရှိသော ထုတ်ကုန်ဖြစ်သည်။ မျှော်လင့်ချက်မှာ တစ်နေ့နေ့တွင် AI သည် AI ကို သုတေသနပြုရာတွင် လူသားများ၏ စွမ်းဆောင်ရည်နှင့် လုပ်ဆောင်နိုင်သော်လည်း ၎င်း၏တန်ဖိုးများနှင့် လိုက်လျောညီထွေဖြစ်စေရန် မျှော်လင့်ပါသည်။

AI alignment တွင် စိတ်ဝင်စားမှု တိုးလာခြင်းသည် အသားတင် အပြုသဘောဆောင်သော်လည်း၊ နယ်ပယ်မှ လေ့လာသုံးသပ်သူ အများအပြားက AI ဓာတ်ခွဲခန်းများတွင် ဦးဆောင်လုပ်ကိုင်သော "ကျင့်ဝတ်" အများစုသည် နည်းပညာကုမ္ပဏီများကို ကြည့်ကောင်းစေရန်နှင့် အပျက်သဘောဆောင်သော လူသိရှင်ကြားများကို ရှောင်ရှားရန် ဒီဇိုင်းထုတ်ထားသော အများသူငှာ ဆက်ဆံရေးမျှသာဖြစ်သည်ဟု ယူဆပါသည်။ ဤပုဂ္ဂိုလ်များသည် ကျင့်ဝတ်ပိုင်းဆိုင်ရာ ဖွံ့ဖြိုးတိုးတက်ရေးအလေ့အကျင့်များကို မကြာမီအချိန်မရွေး ဤကုမ္ပဏီများအတွက် ဦးစားပေးဖြစ်လာမည်ဟု မမျှော်လင့်ထားပေ။

ဤလေ့လာတွေ့ရှိချက်များသည် ကျင့်ဝတ်နှင့်နည်းပညာဆိုင်ရာ စုံစမ်းမှုနယ်ပယ်အတော်လေးအသစ်ဖြစ်သောကြောင့် တန်ဘိုးချိန်ညှိခြင်းကြိုးပမ်းမှုများအတွက် ပေါင်းစည်းချဉ်းကပ်မှု၏အရေးကြီးမှုကို မီးမောင်းထိုးပြပါသည်။ မတူညီသော အသိပညာ၏ အကိုင်းအခက်များသည် အားလုံးပါဝင်သော သုတေသနအစီအစဉ်၏ အစိတ်အပိုင်းဖြစ်သင့်သည်။ AI စနစ်များ ပိုမိုအဆင့်မြင့်လာသည်နှင့်အမျှ AI စနစ်များ ပိုမိုအဆင့်မြင့်လာသည်နှင့်အမျှ ၎င်းတို့၏လူမှုရေးအခြေအနေများနှင့် သက်ဆိုင်သူများအပေါ် သတိရှိရန် ဤအစီအစဉ်သည် နည်းပညာပညာရှင်များနှင့် မူဝါဒချမှတ်သူများ လိုအပ်ကြောင်း ထောက်ပြသည်။

AI ချိန်ညှိခြင်း၏သက်ရောက်မှုများ

AI ချိန်ညှိမှု၏ ကျယ်ပြန့်သောသက်ရောက်မှုများ ပါဝင်နိုင်သည်- 

• Artificial Intelligence ဓာတ်ခွဲခန်းများသည် ပရောဂျက်များကို ကြီးကြပ်ရန်နှင့် ကျင့်ဝတ်ဆိုင်ရာ AI လမ်းညွှန်ချက်များကို ဖြည့်ဆည်းရန် မတူကွဲပြားသော ကျင့်ဝတ်ဘုတ်အဖွဲ့များကို ငှားရမ်းထားသည်။ 
• အစိုးရများသည် ကုမ္ပဏီများသည် ၎င်းတို့၏တာဝန်ရှိ AI မူဘောင်များနှင့် ၎င်းတို့၏ AI ပရောဂျက်များကို ပိုမိုဖွံ့ဖြိုးတိုးတက်စေရန် မည်ကဲ့သို့ စီမံချက်ချတင်ပြရန် လိုအပ်သည့် ဥပဒေများကို ဖန်တီးကြသည်။
• လူသစ်စုဆောင်းခြင်း၊ အများသူငှာစောင့်ကြည့်ခြင်းနှင့် ဥပဒေစိုးမိုးရေးတွင် အယ်လဂိုရီသမ်များအသုံးပြုခြင်းအပေါ် အငြင်းပွားမှုများ တိုးလာပါသည်။
• ကျင့်ဝတ်နှင့် ကော်ပိုရိတ်ပန်းတိုင်များအကြား အကျိုးစီးပွားကွဲလွဲမှုများကြောင့် ကြီးမားသော AI ဓာတ်ခွဲခန်းများမှ သုတေသီများကို အလုပ်ထုတ်ခြင်းခံရသည်။
• မယုံနိုင်လောက်အောင် အစွမ်းထက်သော်လည်း လူ့အခွင့်အရေးချိုးဖောက်နိုင်သည့် အဆင့်မြင့် AI စနစ်များကို ထိန်းချုပ်ရန် အစိုးရများအတွက် ပိုမိုဖိအားပေးသည်။

မှတ်ချက်ပေးရန်မေးခွန်းများ

• ကုမ္ပဏီတွေက သူတို့ဖန်တီးတဲ့ AI စနစ်တွေအတွက် ဘယ်လိုတာဝန်ယူနိုင်မလဲ။
• AI မှားယွင်းမှုရှိပါက အခြားဖြစ်နိုင်သောအန္တရာယ်များကား အဘယ်နည်း။