Ko nga tauira AI tino nui: Ko nga punaha rorohiko nui kei te eke ki te waahi

• Mō te Author:
• Ingoa Kaituhi

  Quantumrun Foresight
• June 2, 2023

Mai i te tau 2012, he nui nga ahunga whakamua i roto i te matauranga hangai (AI) i nga wa katoa, na te kaha o te kaha rorohiko (“whakatairanga” mo te poto). Ko tetahi o nga tauira nui rawa atu, i whakarewahia i te tau 2020, i whakamahia e 600,000 nga wa nui atu i te tauira tuatahi mai i te tau 2012. I kite nga Kairangahau o OpenAI i tenei ahuatanga i te tau 2018 me te whakatupato e kore e mau tonu tenei reeti tipu mo te wa roa.

He horopaki tauira AI te rahi

He maha nga kaiwhakawhanake ako miihini (ML) e whakamahi ana i nga tauira hurihuri mo te ako hohonu (DL) na te ahua kore mutunga o to raatau. Ko nga tauira o enei tauira ko Generative Pre-trained Transformer 2 (GPT-2), GPT-3, Bidirectional Encoder Representations from Transformers (BERT), me Turing Natural Language Generation (NLG). I te nuinga o nga wa ka whai tono a enei algorithms ki te ao tuuturu penei i te whakamaori miihini me te matapae raupapa wa. 

Me whakawhänuihia nga tikanga mohio hangai kia nui ake nga raraunga whakangungu me te pai ake ki nga matapae. Na tenei whakaritenga i piki ake nga tauira tino nui me nga piriona tawhā (nga taurangi e whakamahia ana e te algorithms ki te hanga matapae). Ko enei tauira e tohuhia ana e te OpenAI's GPT-3 (me tana taunekeneke ChatGPT i whakarewahia i te Hakihea 2022), PanGu-alpha i Haina, te Megatron-Turing NLG a Nvidia, me te DeepMind's Gopher. I te tau 2020, ko te whakangungu GPT-3 e hiahiatia ana he rorohiko nui kei roto i nga rima nui rawa atu o te ao. 

Heoi, ko enei tauira ka hiahia kia nui nga raraunga whakangungu kaha-kaha. Ko te ako hohonu i whakawhirinaki ki tona kaha ki te whakamahi i te mana rorohiko nui, engari ka huri tenei. He utu nui te whakangungu, he herenga ki nga maramara AI, a ko te whakangungu i nga tauira nui ka aukati i nga kaiwhakatikatika, he uaua ki te whakahaere i a raatau katoa. Ko te nui ake o te tawhā, ka nui ake te utu mo te whakangungu i enei tauira. E whakaae ana nga tohunga ka tae mai he waahi ka nui rawa te utu o nga tauira AI tino nui me te kaha ki te whakangungu. 

Pānga whakararuraru

I te tau 2020, i whakatauhia e OpenAI te iti rawa o te rorohiko e hiahiatia ana ki te whakangungu i nga tauira maha, me te tohu i te maha o nga tawhā me te rahinga huingararaunga. Ko enei whaarite e whakaatu ana me pehea te tono a ML kia haere nga raraunga i roto i te whatunga i nga wa maha, me pehea te tatau mo ia paahitanga ka piki ake te maha o nga tawhā, me te nui o nga raraunga e hiahiatia ana i te wa e piki haere ana te maha o nga tawhā.

E ai ki nga whakatau tata a Open AI, ki te whakaaro ka taea e nga kaiwhakawhanake te tino pai, ko te hanga i te GPT-4 (100 nga wa nui ake i te GPT-3 (17.5 trillion tawhā)) me 7,600 nga waeine tukatuka whakairoiro (GPU) e mahi ana mo te kotahi tau neke atu me te utu tata. USD $200 miriona. Ko te tauira tawhā 100-trillion me 83,000 GPUs hei whakakaha mo te tau, neke atu i te $2 piriona te utu.

Heoi ano, kei te mahi tahi nga umanga hangarau me te tuku moni whakangao ki a raatau tauira AI supersized kua piki haere i te wa e piki haere ana te tono mo nga otinga ML. Hei tauira, i tukuna e Baidu a Haina me te Peng Cheng Lab te PCL-BAIDU Wenxin, me te 280 piriona tawhā. Kei te whakamahia kētia a PCL-BAIDU e ngā whāngai rongo, pūkaha rapu, me te kaiāwhina mamati a Baidu. 

Ko te putanga hou o te kaupapa Go-playing, i hangaia e DeepMind i Hakihea 2021, e 280 piriona tawhā. Ko nga tauira a Google Switch-Transformer-GLaM he 1 trillion me te 1.2 trillion tawhā. Ko te Wu Dao 2.0 mai i te Beijing Academy of AI he tino nui ake, a, kua korerohia he 1.75 trillion nga tawhā. I te mea kei te turaki tonu nga taone atamai me te aunoatanga, karekau nga tohunga i te tino mohio me pehea te tautoko a te rorohiko AI mo tenei wa kei te heke mai. 

Nga paanga o nga tauira AI supersized

Ko nga awenga whanui o nga tauira AI supersized pea ko: 

• Kua piki ake nga haumi me nga whai waahi ki te whakawhanake i nga maramara rorohiko AI ka iti ake te kaha. 
• I puhoi te ahunga whakamua o AI na te kore o te mana rorohiko, ka nui ake te putea mo nga hangarau me nga otinga.
• Ka hangaia e nga kaiwhakawhanake ML etahi tauira rereke i tua atu i nga kaitahuri, tera pea ka kitea nga kitenga me nga mahi hou mo nga algorithms pai ake.
• Ko nga otinga AI e aro ana ki nga raru e aro ana ki te tono, ki te whakatika i te tatauranga ki runga, ki te whakarereke ranei i te mea e hiahiatia ana, kaua ki te whakarahi noa.
• Ko nga huingararaunga matatini ake e taea ai e nga kaupapa AI te mahi matapae pai ake, tae atu ki nga matapae huarere, te kitenga mokowhiti, nga taatai ​​rongoa, me te hokohoko o te ao.

Nga patai hei korero

• Mēnā kei te mahi koe i te rāngai AI, he aha te ahunga whakamua ki te hanga tauira ML pai ake?
• He aha etahi atu painga pea o nga tauira whai raraunga whakangungu nui hei ako mai?