Te whakapakari i te ako me nga urupare a te tangata: Whakapaipai AI

• Mō te Author:
• Ingoa Kaituhi

  Quantumrun Foresight
• March 7, 2024

Whakarāpopototanga tirohanga

Ko te ako whakakaha mai i te urupare a te tangata (RLHF) he tikanga whakangungu mohio (AI) e whakatika pai ana i nga tauira ma te whakamahi i te whakauru tangata kia pai ake ai ki te whakarite ki nga whakaaro o te tangata. Ko tenei huarahi ko te hanga tauira utu mai i nga urupare a te tangata hei whakapai ake i nga mahi o nga tauira kua whakangungua. Ahakoa e oati ana mo AI te kawenga, kei te anga atu a RLHF ki nga he kare e tika ana me te hiahia mo nga aratohu matatika.

Te whakapakari i te ako me te horopaki urupare a te tangata

Ko te ako whakapakari mai i nga urupare a te tangata (RLHF) he tikanga mo te whakangungu i nga tauira AI e whai ana ki te whakangao tata ki nga hiahia me nga hiahia o te tangata. Ka whakakotahihia e RLHF te ako whakakaha me te whakauru tangata ki te whakatika i nga tauira ako miihini (ML). He rereke tenei huarahi mai i nga akoranga e maataki ana, e kore e tirotirohia, a kei te aro nui, ina koa i muri i te whakamahi a OpenAI ki te whakangungu tauira penei i te InstructGPT me te ChatGPT.

Ko te kaupapa matua i muri i te RLHF e toru nga waahanga matua. Tuatahi, ka tohua he tauira kua whakangungua hei tauira matua, he mea nui mo nga tauira reo na te nui o nga raraunga e hiahiatia ana mo te whakangungu. Tuarua, ka hangaia he tauira utu motuhake, e whakangungua ana ma te whakamahi i nga whakaurunga tangata (ka whakaatuhia nga tangata ki nga putanga kua hangaia e te tauira me te tono kia whakatauhia i runga i te kounga). Ka hurihia enei korero rangatira ki te punaha tohu, ka whakamahia e te tauira utu hei arotake i nga mahi o te tauira tuatahi. I te waahanga tuatoru, ka aromatawaihia e te tauira utu nga putanga o te tauira tuatahi me te whakarato i te tohu kounga. Ka whakamahia e te tauira matua enei urupare hei whakarei ake i ana mahi a meake nei.

Ahakoa kei te oati a RLHF ki te whakapai ake i te whakangaotanga AI ki te hiahia o te tangata, ka kore e tika, ka paitini ranei nga whakautu tauira ahakoa i muri i te whakatikatika pai. I tua atu, he puhoi me te utu nui te whai waahi a te tangata ki te ako kore e tirotirohia. Ko nga tautohetohe i waenga i nga kaiarotake a te tangata me nga taarua pea i roto i nga tauira utu he tino awangawanga ano. Heoi, ahakoa enei herenga, ko etahi atu rangahau me te whakawhanaketanga i tenei mara ka kaha ake te noho haumaru, te pono, me te whai hua mo nga kaiwhakamahi. 

Pānga whakararuraru

Ko tetahi ahuatanga nui o te RLFH ko tona kaha ki te poipoi i nga punaha AI whai mana me te matatika. I te mea ka taea e te RLHF nga tauira kia pai ake te hono ki nga uara tangata me te koronga, ka taea e ia te whakaiti i nga tupono e pa ana ki nga ihirangi i hangaia e AI ka kino pea, karekau, karekau ranei. Ka hiahia pea nga kawanatanga me nga roopu ture ki te whakarite i nga aratohu me nga paerewa mo te tuku RLHF i roto i nga punaha AI hei whakarite i to raatau whakamahinga matatika.

Mo nga pakihi, he whai waahi nui a RLHF ki te whakarei ake i nga wheako o nga kaihoko me te arotau i nga mahi. Ka taea e nga kamupene te whakamahi i te RLHF ki te whakawhanake i nga hua me nga ratonga a-AI e pai ake ai te mohio me te whakatutuki i nga hiahia a nga kaihoko. Hei tauira, ko nga taunakitanga hua kua whakawhaiarohia me nga kaupapa hokohoko kua whakaritea ka tino tika ake, i te mutunga ka piki ake te pai o nga kaihoko me nga reiti whakahuri. I tua atu, ka taea ano e te RLHF te whakamaarama i nga tikanga o roto, penei i te whakahaere mekameka tuku me te tohatoha rauemi, ma te arotau i nga whakataunga i runga i nga raraunga tuuturu me nga urupare a nga kaiwhakamahi.

I roto i te tiaki hauora, ka kaha ake te pono me te aro nui ki te manawanui o nga tohu a-AI. I tua atu, ka taea te whakamahine i nga wheako ako whaiaro i roto i te maatauranga, me te whakarite kia whiwhi nga akonga i te tautoko kia pai ake ai o raatau maatauranga. Ka hiahia pea nga kawanatanga ki te whakangao ki nga kaupapa whakangungu me nga kaupapa whakangungu AI hei whakakii i nga kaimahi ki nga pukenga e hiahiatia ana hei whakamahi i nga painga o te RLHF. 

Ko nga paanga o te ako whakakaha me nga urupare a te tangata

Ko nga awenga whanui o te RLHF ka uru pea: 

• Kua piki ake te pono me te whai waahi ki nga kaihoko, na te mea ka kaha ake nga hua me nga ratonga a AI ki nga manakohanga takitahi.
• Ko te hanga i nga wheako matauranga ake ake, e awhina ana i nga akonga ki te eke ki o raatau pukenga me te whakaiti i nga waahi paetae matauranga.
• Ko te maakete mahi e huri ana i te mea e whakakahangia ana e te aunoatanga a RLHF nga mahi o ia ra, ka whai waahi pea nga kaimahi ki te aro ki nga mahi mahi auaha me te uaua.
• Kua pai ake te tukatuka reo maori na roto i te RLHF e arai atu ana ki nga ahuatanga whakaurunga, e whai hua ana ki te hunga haua me te whakatairanga ake i te whakauru ki roto i nga whakawhitiwhitinga matihiko.
• Ko te horahanga o te RLHF i roto i te aro turuki i te taiao me te whakahaere rawa kia pai ake ai nga mahi tiaki whenua, te whakaiti i te ururua me te tautoko i nga whaainga oranga.
• Ko te RLHF i roto i nga punaha tohutohu me te hanga i nga ihirangi ka puta ake he whenua papaho motuhake ake, e tuku ana ki nga kaiwhakamahi nga ihirangi e hono ana ki o raatau hiahia me o raatau uara.
• Ko te manapori o AI na roto i te RLHF e whakamana ana i nga kamupene iti me nga tiimata ki te whakamahi i nga painga o te hangarau AI, te whakatairanga i te auahatanga me te whakataetae i roto i te umanga hangarau.

Nga patai hei whakaaroaro

• Ka pehea te paanga o te RLHF ki te mahi tahi me te hangarau i roto i o tatou oranga o ia ra?
• Me pehea e huri ai a RLHF i etahi atu ahumahi?