Kev sib tw AI: Sib piv cov hom phiaj kev txawj ntse sib xws rau tib neeg cov txiaj ntsig

IMAGE CREDIT:
Duab credit
iStock

Kev sib tw AI: Sib piv cov hom phiaj kev txawj ntse sib xws rau tib neeg cov txiaj ntsig

Kev sib tw AI: Sib piv cov hom phiaj kev txawj ntse sib xws rau tib neeg cov txiaj ntsig

Subheading ntawv nyeem
Qee cov kws tshawb fawb ntseeg tias kev ntsuas yuav tsum tau ua kom ntseeg tau tias kev txawj ntse ntse tsis ua mob rau tib neeg.
    • Author:
    • Tus sau lub npe
      Quantumrun Foresight
    • Lub ib hlis ntuj 25, 2023

    Artificial txawj ntse (AI) kev sib raug zoo yog thaum AI system lub hom phiaj sib phim tib neeg qhov tseem ceeb. Cov tuam txhab xws li OpenAI, DeepMind, thiab Anthropic muaj pab pawg ntawm cov kws tshawb fawb uas nws lub hom phiaj yog los kawm kev tiv thaiv rau cov xwm txheej sib txawv uas qhov no yuav tshwm sim.

    AI alignment context

    Raws li kev tshawb fawb University of Cornell xyoo 2021, ntau qhov kev tshawb fawb tau pom tias cov cuab yeej lossis cov qauv tsim los ntawm algorithms qhia kev tsis ncaj ncees los ntawm cov ntaub ntawv uas lawv tau kawm. Piv txwv li, nyob rau hauv natural language processing (NLP), xaiv NLP cov qauv kawm ntawm cov ntaub ntawv tsawg tsawg tau raug sau tseg ua kev kwv yees raws li kev ua phem rau poj niam txiv neej stereotypes tawm tsam poj niam. Ib yam li ntawd, lwm cov kev tshawb fawb pom tau tias cov algorithms tau kawm txog cov ntaub ntawv tampered tau ua rau cov lus pom zoo ntawm kev ntxub ntxaug lwm haiv neeg, tshwj xeeb hauv kev ua tub ceev xwm.

    Muaj ntau qhov piv txwv uas cov tshuab kev kawm tau ua phem rau cov haiv neeg tsawg lossis pab pawg uas raug kev txom nyem los ntawm ntau yam tsis zoo. Tshwj xeeb, kev tshuaj xyuas lub ntsej muag thiab kev kuaj xyuas kev noj qab haus huv feem ntau tsis ua haujlwm zoo rau cov poj niam thiab cov neeg muaj xim. Thaum cov txheej txheem tseem ceeb uas yuav tsum tau ua raws li qhov tseeb thiab kev xav tsis yog kev xav tau siv rau hauv cov ntsiab lus xws li faib kev kho mob lossis kev kawm, lawv tuaj yeem ua kev puas tsuaj ntau dua los ntawm kev ua kom nyuaj los txheeb xyuas qhov laj thawj tom qab cov lus pom zoo.

    Raws li qhov tshwm sim, cov tuam txhab thev naus laus zis tau tsim cov pab pawg sib koom ua ke AI kom tsom mus rau kev ua kom cov algorithms ncaj ncees thiab tib neeg. Kev tshawb fawb yog qhov tseem ceeb rau kev nkag siab txog cov kev taw qhia ntawm cov txheej txheem AI siab, nrog rau cov kev cov nyom uas peb yuav ntsib thaum muaj peev xwm AI loj tuaj.

    Kev cuam tshuam

    Raws li Jan Leike, tus thawj coj ntawm AI kev sib raug zoo ntawm OpenAI (2021), muab tias AI systems tsuas muaj peev xwm ua tau nyob rau xyoo 2010s, nws nkag siab tias feem ntau AI kev sib raug zoo kev tshawb fawb tau ua qhov kev xav hnyav. Thaum lub tshuab AI muaj zog heev tau ua tiav, ib qho ntawm cov teeb meem uas tib neeg ntsib yog tias cov tshuab no tuaj yeem tsim cov kev daws teeb meem uas nyuaj dhau los tshuaj xyuas thiab ntsuas yog tias lawv ua rau muaj kev ncaj ncees.

    Leike tau tsim ib qho kev ua qauv zoo tshaj plaws (RRM) lub tswv yim los kho qhov teeb meem no. Nrog RRM, ob peb "tus pab" AIs tau qhia los pab tib neeg los ntsuas seb qhov AI ua haujlwm zoo npaum li cas. Nws zoo siab txog qhov muaj peev xwm tsim tau ib yam dab tsi uas nws hais txog ua "kev sib koom ua ke MVP." Hauv cov ntsiab lus pib, MVP (lossis yam khoom siv tau tsawg kawg nkaus) yog cov khoom lag luam yooj yim tshaj plaws uas lub tuam txhab tuaj yeem tsim los ntsuas lub tswv yim. Qhov kev cia siab yog tias muaj ib hnub, AI phim tib neeg kev ua tau zoo hauv kev tshawb fawb AI thiab nws txoj kev sib raug zoo nrog cov txiaj ntsig thaum tseem ua haujlwm.

    Thaum muaj kev txaus siab rau AI kev sib raug zoo yog qhov txiaj ntsig zoo, ntau tus kws tshuaj ntsuam hauv cheeb tsam xav tias ntau ntawm "kev coj ncaj ncees" ua haujlwm ntawm kev ua haujlwm AI tsuas yog kev sib raug zoo rau pej xeem tsim los ua kom cov tuam txhab thev naus laus zis zoo thiab zam kev tshaj tawm tsis zoo. Cov tib neeg no tsis cia siab tias yuav muaj kev txhim kho kev coj ncaj ncees los ua qhov tseem ceeb rau cov tuam txhab no txhua lub sijhawm sai sai.

    Cov kev soj ntsuam no qhia txog qhov tseem ceeb ntawm kev sib koom ua ke rau kev ua kom muaj txiaj ntsig zoo, vim qhov no yog qhov tshiab ntawm kev coj ncaj ncees thiab kev nug. Cov ceg sib txawv ntawm kev paub yuav tsum yog ib feem ntawm cov txheej txheem tshawb fawb suav nrog. Qhov kev pib no tseem qhia txog qhov xav tau rau cov kws tshaj lij thev naus laus zis thiab cov neeg tsim cai tswj hwm kom paub txog lawv cov ntsiab lus ntawm kev sib raug zoo thiab cov neeg muaj feem cuam tshuam, txawm tias AI systems tau nce siab dua.

    Kev cuam tshuam ntawm AI kev sib raug zoo

    Kev cuam tshuam dav dav ntawm AI kev sib raug zoo tuaj yeem suav nrog: 

    • Artificial Intelligence labs ntiav ntau pawg tswj hwm kev coj noj coj ua los saib xyuas cov haujlwm thiab ua tiav AI cov lus qhia. 
    • Tsoomfwv tsim cov cai lij choj uas xav kom cov tuam txhab xa lawv lub luag haujlwm AI lub luag haujlwm thiab lawv yuav npaj li cas los txhim kho lawv cov haujlwm AI ntxiv.
    • Muaj kev tsis sib haum xeeb ntawm kev siv cov algorithms hauv kev nrhiav neeg ua haujlwm, kev soj ntsuam pej xeem, thiab tub ceev xwm.
    • Cov kws tshawb fawb raug rho tawm haujlwm los ntawm AI labs loj vim muaj kev tsis sib haum xeeb ntawm kev coj ncaj ncees thiab cov hom phiaj ntawm lub tuam txhab.
    • Ntau lub siab rau tsoomfwv los tswj hwm cov txheej txheem AI qib siab uas ob leeg muaj zog heev tab sis tuaj yeem ua txhaum tib neeg txoj cai.

    Cov lus nug los tawm tswv yim

    • Yuav ua li cas cov tuam txhab yuav lav ris rau AI systems lawv tsim?
    • Dab tsi yog lwm yam txaus ntshai yog tias muaj AI misalignment?

    Insight references

    Cov nram qab no nrov thiab cov koom haum txuas tau raug xa mus rau qhov kev pom no: