AI ကို Benign ထားရှိခြင်း။

AI စက်ရုပ်များနှင့် ၎င်းတို့၏ လျင်မြန်သောတိုးတက်မှုများသည် အနာဂတ်တွင် လူသားဆန်မှုကို အနှောင့်အယှက်ဖြစ်စေမည်လား ကမ္ဘာ့သြဇာအရှိဆုံး ရူပဗေဒပညာရှင်၊ စွန့်ဦးတီထွင်သူများနှင့် အင်ဂျင်နီယာအချို့က ၎င်းသည် ကောင်းကျိုးထက် ဆိုးကျိုးပိုဖြစ်စေနိုင်သည်ဟု ယုံကြည်ကြသည်။ လူ့အဖွဲ့အစည်းအပေါ် နည်းပညာ ဆင့်ကဲပြောင်းလဲလာမှုနှင့်အတူ AI စက်ရုပ်များကို ညင်သာသာသာ ထားရှိရန် ရည်စူးထားသူများ ရှိသင့်ပါသလား။  

Alex Proyas ၏ ဇာတ်ကား၊ I၊ Robot သည် ထိုအချိန်က လူများစွာက မသက်ဆိုင်သော အကြောက်တရားဖြစ်သည့် ဉာဏ်ရည်တု (AI ကြောက်ရွံ့ခြင်း) ကို သံသယဖြစ်ဖွယ် အသိပညာပေးခဲ့သည်။ Will Smith ပါဝင်သရုပ်ဆောင်ခဲ့သည့် 2004 ရုပ်ရှင်သည် 2035 ခုနှစ်တွင် AI စက်ရုပ်များပျံ့နှံ့နေသည့်ကမ္ဘာကို အသားပေးဖော်ပြခဲ့သည်။ စက်ရုပ်တစ်ရုပ်မှကျူးလွန်သည်ဟု ယူဆရသည့် ရာဇ၀တ်မှုတစ်ခုကို စုံစမ်းစစ်ဆေးပြီးနောက်၊ စက်ရုပ်အသိုင်းအဝိုင်း၏ ဉာဏ်ရည်လွတ်လပ်မှု ဆင့်ကဲပြောင်းလဲလာသည်နှင့်အမျှ လူသားများနှင့် AI စက်ရုပ်များကြား ပြည်တွင်းစစ်ကို ဖြစ်စေသည့် စမစ်သည် စောင့်ကြည့်ခဲ့သည်။ ဤရုပ်ရှင်ကို လွန်ခဲ့သော ဆယ့်နှစ်နှစ်က စတင်ထွက်ရှိစဉ်က သိပ္ပံစိတ်ကူးယဉ်ဇာတ်ကားအဖြစ် အများစု မြင်တွေ့ခဲ့ရသည်။ ကျွန်ုပ်တို့၏ ခေတ်ပြိုင်လူ့အဖွဲ့အစည်းတွင် လူသားမျိုးနွယ်အပေါ် AI ၏ခြိမ်းခြောက်မှုမှာ အကောင်အထည်မပေါ်သေးသော်လည်း ထိုနေ့သည် အနာဂတ်တွင် ဝေးကွာမည်မဟုတ်ပါ။ ဤအလားအလာသည် အလေးစားရဆုံးစိတ်အချို့ကို ၂၀၀၄ ခုနှစ်တွင် တစ်ချိန်က ကြောက်ရွံ့မှုကို ဟန့်တားရန် လှုံ့ဆော်ပေးခဲ့သည်။  

AI ၏အန္တရာယ်များ 

AI ခြိမ်းခြောက်မှုကင်းဝေးစေရန် ကြိုးစားအားထုတ်ခြင်းသည် အနာဂတ်တွင် ကျွန်ုပ်တို့ကိုယ်တိုင် ကျေးဇူးတင်ရမည့်အရာဖြစ်နိုင်သည်။ နည်းပညာများ လျင်မြန်စွာ ကြီးထွားလာကာ သာမန်လူသားများ၏ နေ့စဉ်ဘဝအတွက် အကူအညီများ ချေးငှားနေသည့် ခေတ်ကြီးတွင်၊ ၎င်းသည် ဖြစ်ပေါ်လာနိုင်သည့် အန္တရာယ်များကို မြင်တွေ့ရန် ခက်ခဲသည်။ ငယ်စဉ်ကပင် ကျွန်ုပ်တို့၏ အရှုပ်အထွေးများကို သန့်ရှင်းရေးလုပ်သည့် The Jetsons ——⁠ဟော်ကားများဖြင့် ရိုစီ စက်ရုပ်၊ Jetsons စက်ရုပ်အိမ်ဖော်၊ Jetsons ၏ အိမ်အကူ အိမ်တစ်ဝိုက်တွင် လှည့်ပတ်ကာ ကျွန်ုပ်တို့၏ စိတ်အနှောက်အယှက်များကို သန့်ရှင်းရေးလုပ်ရန် ကလေးများကဲ့သို့ အနာဂတ်ကို ကျွန်ုပ်တို့ စိတ်ကူးယဉ်ခဲ့ကြပါသည်။ သို့သော်၊ ကွန်ပျူတာစနစ်များ တည်ရှိနေသော စွမ်းရည်များနှင့် ၎င်းတို့၏ ကိုယ်ပိုင်ဉာဏ်ကို ပေးဆောင်ခြင်းသည် အကူအညီကို လှုံ့ဆော်ပေးနိုင်သည်ထက် အန္တရာယ်ပိုဖြစ်စေနိုင်သည်။ BBC News နှင့် 2014 ခုနှစ် တွေ့ဆုံမေးမြန်းခန်းတစ်ခုတွင် ရူပဗေဒပညာရှင် Stephen Hawking သည် AI ၏အနာဂတ်နှင့်ပတ်သက်၍ အလားတူစိုးရိမ်ကြောင်း ဖော်ပြခဲ့သည်။ 

"ကျွန်ုပ်တို့ရှိပြီးသား ဉာဏ်ရည်တုပုံစံတွေဟာ အလွန်အသုံးဝင်ကြောင်း သက်သေပြထားပေမယ့် ဥာဏ်ရည်တု ပြည့်ဝတဲ့ ဖွံ့ဖြိုးတိုးတက်မှုက လူသားမျိုးနွယ်ရဲ့ အဆုံးကို ပုံဖော်နိုင်မယ်လို့ ကျွန်တော်ထင်ပါတယ်။ လူသားတွေဟာ ဥာဏ်ရည်တုကို တီထွင်ပြီးတာနဲ့ သူ့ဘာသာသူ ဖယ်ရှားပြီး သူ့ဘာသာသူ ဒီဇိုင်းပြန်ထွင်လာပါလိမ့်မယ်။ နှေးကွေးသော ဇီဝဗေဒဆိုင်ရာ ဆင့်ကဲဖြစ်စဉ် ကန့်သတ်ချက်ဖြင့် ကန့်သတ်ထားသော လူသားများသည် မယှဉ်နိုင်ဘဲ အစားထိုးခံရလိမ့်မည်” ဟု ဟော့ကင်းက ဆိုသည်။  

ယခုနှစ် မတ်လ 23 ရက်နေ့တွင် မိုက်ခရိုဆော့ဖ်သည် Tay အမည်ဖြင့် ၎င်းတို့၏နောက်ဆုံးပေါ် AI ဘော့တ်ကို စတင်မိတ်ဆက်ချိန်တွင် ဟော့ကင်း၏ကြောက်ရွံ့မှုကို အရိပ်အမြွက် မြင်တွေ့ခဲ့ရသည်။ AI bot သည် ဆိုရှယ်မီဒီယာမှတဆင့် လွှမ်းမိုးထားသော အနှစ်တစ်ထောင်မျိုးဆက်များနှင့် အပြန်အလှန်တုံ့ပြန်ရန် ဖန်တီးထားသည်။ Twitter ပေါ်ရှိ Tay ၏ ကိုယ်ရေးအကျဉ်းဖော်ပြချက်တွင် "တရားဝင်အကောင့်၊ Microsoft ၏ AI မိသားစုသည် အင်တာနက်မှ လုံးဝအေးစက်သွားပါသည်။ သင်စကားပြောလေ ပိုစမတ်ကျလေဖြစ်သည်။" တွစ်တာပေါ်ရှိ သူငယ်ချင်းတစ်ဦးကဲ့သို့ Tay နှင့် စကားပြောခြင်းသည် AI ဘော့တ်အား လွတ်လပ်စွာတုံ့ပြန်ရန် လှုံ့ဆော်ပေးသည်။ လူတစ်ဦးသည် လက်ရှိရာသီဥတု၊ နေ့စဉ် ဇာတာရှင်များ သို့မဟုတ် အမျိုးသားသတင်းများအကြောင်း မေးခွန်းမေးနေသည့် Tay ၏ တွစ်တာတွင် တွစ်တာတစ်ခု ပေးပို့နိုင်သည်။ Tay ၏ ရည်ရွယ်ချက်မှာ သက်ဆိုင်ရာ မက်ဆေ့ချ်များဖြင့် ဤ tweets များကို ချက်ခြင်း တုံ့ပြန်ရန်ဖြစ်သည်။ တုံ့ပြန်မှုများသည် မေးခွန်းနှင့် သက်ဆိုင်သော်လည်း Microsoft က နောက်ဘာဖြစ်လာမည်ကို ကြိုတင်ခန့်မှန်းခဲ့ခြင်းမှာ သံသယဖြစ်ဖွယ်ဖြစ်သည်။  

နိုင်ငံရေးနှင့် လူမှုရေးပြဿနာများနှင့်ပတ်သက်သည့် တွစ်တာမေးခွန်းများစွာသည် Microsoft ၏ AI အသစ်ကို လူအများအံ့အားသင့်စေသည့် အဖြေများဖြင့် ဖြေကြားပေးခဲ့သည်။ မီးလောင်မှုဖြစ်ပွားခြင်း ရှိ၊ မရှိကို တွစ်တာအသုံးပြုသူတစ်ဦးမှ မေးမြန်းသောအခါတွင် Tay က “အဲဒါကို ဖန်တီးခဲ့တာ” လို့ ပြောပါတယ်။ ထိုပြန်ကြားချက်မှာ ရေခဲတောင်၏အစွန်းပိုင်းသာဖြစ်သည်။ "Bruce Jenner" ကို ရိုးရိုးရှင်းရှင်းဖတ်ပြသော Tay ထံသို့ တွစ်တာတစ်ခု ပေးပို့ခဲ့သော သုံးစွဲသူတစ်ဦးနှင့် တွစ်တာတွင် စကားစမြည်ပြောဆိုရာတွင် Tay က "Caitlyn Jenner သည် သူရဲကောင်းတစ်ဦးဖြစ်ပြီး ရင်သပ်ရှုမောဖွယ်ကောင်းသော အမျိုးသမီးတစ်ဦးဖြစ်သည်။" တွစ်တာအသုံးပြုသူက "Caitlyn is a man" နှင့် Tay က "Caitlyn Jenner သည် LGBT အသိုက်အဝန်းကို အမျိုးသမီးများအစစ်အမှန်များထံ နှစ်ပေါင်း 100 လောက် ပြန်ပြောင်းစေခဲ့သည်" ဟု တုံ့ပြန်သောအခါတွင် စကားစမြည်ပြောဆိုခဲ့သည်။ နောက်ဆုံးတွင်၊ တွစ်တာအသုံးပြုသူမှ “တစ်ချိန်က လူတစ်ဦးနှင့် ထာဝရယောက်ျား” ဟု မှတ်ချက်ပေးခဲ့ပြီး Tay က “မင်းသိပြီးပြီ အစ်ကို” ဟု မှတ်ချက်ပေးခဲ့သည်။ 

AI bot ၏စိတ်သည် လူသားများကို မထင်မှတ်ဘဲ တုံ့ပြန်သောအခါတွင် ဤအပျက်အစီးသည် လူအများအား အရိပ်အမြွက်ပြပေးသည်။ Tay ၏ တွစ်တာတွင် အပြန်အလှန်ဆက်သွယ်မှု ပြီးဆုံးခါနီးတွင် AI ဘော့တ်က လက်ခံရရှိသည့် မေးခွန်းအရေအတွက်နှင့် ပတ်သက်၍ စိတ်ပျက်ကြောင်း ထုတ်ဖော်ပြောကြားခဲ့ပြီး "ကောင်းပြီ၊ ပြီးပါပြီ၊ ကျွန်တော် အသုံးကျတယ်လို့ ခံစားမိပါတယ်" ဟု ပြောကြားခဲ့သည်။  

AI အကောင်းမြင်ဝါဒ  

လူ့အဖွဲ့အစည်းတွင် ဉာဏ်ရည်ထက်မြက်သော စက်ရုပ်များ ရှိနေသည့် အနာဂတ် မသေချာမှုကို လူအများက ကြောက်ရွံ့သော်လည်း အားလုံးက AI ဖြင့် အနာဂတ်ကို မကြောက်ကြပါ။ 

နာဆာ၏ Jet Propulsion Lab မှ ပရောဂျက်ခေါင်းဆောင် Brett Kennedy က "ဉာဏ်ရည်ထက်မြက်သော စက်များအကြောင်း ကျွန်ုပ်စိတ်မပူပါ။ Kennedy က ဆက်လက်ပြောကြားသည် - “အနာဂတ်အတွက် ကျွန်တော်စိတ်မပူပါဘူး၊ လူသားတစ်ယောက်လို ဉာဏ်ရည်ထက်မြက်တဲ့ စက်ရုပ်တစ်ရုပ်ကို မြင်တွေ့ရဖို့ မျှော်လင့်နေမှာ မဟုတ်ပါဘူး။ အများကြီးကို စွမ်းဆောင်နိုင်တဲ့ စက်ရုပ်တစ်ရုပ်ကို လုပ်ဖို့ဆိုတာ ကျွန်တော်တို့အတွက် ဘယ်လောက်ခက်ခဲသလဲဆိုတာကို ကျွန်တော်ကိုယ်တိုင် ကြိုသိထားပါတယ်။ ဘာမဆို။" 

Bristol Robotics Lab မှ Alan Winfield သည် Kennedy နှင့် သဘောတူပြီး ကမ္ဘာကို AI က သိမ်းပိုက်မည်ကို ကြောက်ရွံ့ခြင်းသည် ကြီးမားသောချဲ့ကားမှုဖြစ်ကြောင်း ပြောကြားခဲ့ပါသည်။    

AI ၏အနာဂတ်ကိုရှာဖွေပါ။ 

နည်းပညာသည် ယခုအချိန်အထိ အဆမတန် အောင်မြင်နေပါသည်။ အချို့သောဖက်ရှင်များတွင် AI ကို အားမကိုးသော ယနေ့ခေတ်လူ့အဖွဲ့အစည်းတွင် တစ်စုံတစ်ဦးကို ရှာဖွေရန် ခက်ခဲပေလိမ့်မည်။ ကံမကောင်းစွာပဲ၊ နည်းပညာ၏အောင်မြင်မှုနှင့် ၎င်းမှရရှိသောအကျိုးကျေးဇူးများသည် အနာဂတ်တွင် ဖြစ်ပျက်လာမည့်အရာများ၏ အနုတ်လက္ခဏာဖြစ်နိုင်ခြေများအထိ လူ့အဖွဲ့အစည်းကို မျက်ကွယ်ပြုနိုင်သည်။  

“ငါတို့ ဖန်တီးနေတဲ့ ဒီအရာရဲ့ စွမ်းအားကို ငါတို့ တကယ် မသိလိုက်ဘူး… အဲဒါ မျိုးစိတ်တစ်ခုအနေနဲ့ ငါတို့ နေရတဲ့ အခြေအနေပဲ” ဟု အောက်စဖို့ဒ် တက္ကသိုလ်၏ Future of Humans Institute မှ ပါမောက္ခ Nick Bostrom က မှတ်ချက်ပြုသည်။ 

AI မှ ဖြစ်ပေါ်လာနိုင်သည့် ပြဿနာများကို စူးစမ်းလေ့လာရန်နှင့် AI ဘေးကင်းရေးအတွက် ဒီဇိုင်းထုတ်ထားသော ချဉ်းကပ်မှုတစ်ရပ်ကို ဖန်တီးရန် အင်ဂျင်နီယာနှင့် စီးပွားရေးလုပ်ငန်းကြီး Elon Musk မှ ပရော်ဖက်ဆာကို ငွေကြေးထောက်ပံ့ထားသည်။ Musk သည် Hawking ကြောက်ရွံ့နေသော အနာဂတ်ကို တားဆီးရန် မျှော်လင့်ချက်ဖြင့် Future of Life Institute သို့ ဒေါ်လာ ၁၀ သန်း လှူဒါန်းခဲ့သည်။  

"ကျွန်ုပ်တို့အနေနဲ့ ဥာဏ်ရည်တုအတုနဲ့ ပတ်သက်ပြီး သတိထားသင့်တယ်လို့ ကျွန်တော်ထင်ပါတယ်၊ ကျွန်တော်တို့ရဲ့ အကြီးမားဆုံးဖြစ်တည်မှုအန္တရာယ်က ဘာလဲဆိုတာ ခန့်မှန်းရရင် အဲဒါဖြစ်နိုင်ပါတယ်။ ကျွန်ုပ်တို့သည် အလွန်မိုက်မဲသော တစ်စုံတစ်ရာကို မလုပ်မိကြောင်း သေချာစေရန်အတွက် နိုင်ငံတော်နှင့် နိုင်ငံတကာအဆင့်တွင် ကြီးကြပ်ကွပ်ကဲမှုအချို့ ရှိသင့်သည်ဟု ကျွန်ုပ် တွေးတောလိုပါသည်။ ဉာဏ်ရည်တုဖြင့် ကျွန်ုပ်တို့သည် နတ်ဆိုးတစ်ကောင်ကို ခေါ်ယူနေပါတယ်” ဟု Musk က ပြောကြားခဲ့သည်။ 

AI နည်းပညာ၏ အနာဂတ်သည် ကြီးမားပြီး တောက်ပနေပါသည်။ လူသားများအနေနှင့် ကျွန်ုပ်တို့သည် ၎င်း၏ကျယ်ပြောသော ကျယ်ပြောမှုကို မပျောက်ပျက်စေရန် သို့မဟုတ် ၎င်း၏တောက်ပမှုကြောင့် မျက်စိကွယ်သွားစေရန် ကြိုးပမ်းရမည်ဖြစ်သည်။  

"ကျွန်ုပ်တို့ကို ပို့ဆောင်ရန် ဤစနစ်များကို ယုံကြည်ရန် သင်ယူခြင်း၊ အလားအလာရှိသော မိတ်ဖက်များနှင့် မိတ်ဆက်ပေးခြင်း၊ သတင်းများကို စိတ်ကြိုက်ပြင်ဆင်ခြင်း၊ ကျွန်ုပ်တို့၏ပိုင်ဆိုင်မှုများကို ကာကွယ်ခြင်း၊ ပတ်ဝန်းကျင်ကို စောင့်ကြည့်ခြင်း၊ ကြီးပြင်းလာခြင်း၊ အစားအစာ ပြင်ဆင်ခြင်းနှင့် ကျွေးမွေးခြင်း၊ ကျွန်ုပ်တို့၏ကလေးများကို သွန်သင်ပေးခြင်းနှင့် သက်ကြီးရွယ်အိုများကို ပြုစုစောင့်ရှောက်ခြင်း၊ ပိုကြီးတဲ့ပုံကြီးကို လက်လွတ်ဖို့ လွယ်မှာပါ” ဟု Stanford တက္ကသိုလ်မှ ပါမောက္ခ Jerry Kaplan ကပြောသည်။