Fandrindrana AI: Mifanaraka amin'ny soatoavin'olombelona ny tanjona amin'ny faharanitan-tsaina artifisialy

• Author:
• Anaran'ny mpanoratra

  Quantumrun Foresight
• Janoary 25, 2023

Ny fampifanarahana amin'ny artificial intelligence (AI) dia rehefa mifanaraka amin'ny soatoavin'olombelona ny tanjon'ny rafitra AI. Ny orinasa toa an'i OpenAI, DeepMind, ary Anthropic dia manana ekipa mpikaroka izay ny hany ifantohan'izy ireo dia ny fandalinana ny fiambenana amin'ny toe-javatra samihafa mety hitrangan'izany.

AI alignment context

Araka ny fanadihadiana nataon'ny Oniversiten'i Cornell tamin'ny taona 2021, fanadihadiana maro no naneho fa ny fitaovana na modely noforonin'ny algorithm dia mampiseho fitongilanana avy amin'ny angon-drakitra nampiofanina azy ireo. Ohatra, amin'ny fanodinana fiteny voajanahary (NLP), ireo modely NLP voaofana amin'ny angon-drakitra voafetra dia voarakitra an-tsoratra manao faminaniana mifototra amin'ny stereotypes momba ny lahy sy ny vavy manimba ny vehivavy. Toy izany koa, ny fanadihadiana hafa dia nahatsikaritra fa ny algorithm voaofana amin'ny angon-drakitra voasoloky dia niteraka tolo-kevitra mitongilana ara-poko, indrindra amin'ny polisy.

Betsaka ny ohatra izay nahatonga ny rafitra fianarana milina nanao ratsy kokoa ho an'ny vitsy an'isa na vondrona mijaly amin'ny fatiantoka maro. Amin'ny ankapobeny, ny famakafakana tarehy mandeha ho azy sy ny diagnostika ara-pahasalamana matetika dia tsy mandeha tsara amin'ny vehivavy sy ny olona miloko. Raha rafitra mitsikera izay tokony mifototra amin'ny zava-misy sy ny lojika fa tsy ny fihetseham-po no ampiasaina amin'ny toe-javatra toy ny fanokanana ny fitsaboana na ny fanabeazana, dia afaka manimba bebe kokoa amin'ny alalan'ny fanasarotra ny mamantatra ny antony ao ambadik'ireo tolo-kevitra ireo.

Vokatr'izany, ny orinasa teknolojia dia mamorona ekipa fampifanarahana AI mba hifantoka amin'ny fitazonana ny algorithm amin'ny rariny sy ny maha-olombelona. Tena ilaina ny fikarohana mba hahatakarana ny lalan'ny rafitra AI mandroso, ary koa ny fanamby mety hatrehantsika rehefa mitombo ny fahaiza-manao AI.

Fiantraikany manakorontana

Araka ny filazan'i Jan Leike, lehiben'ny fampifanarahana AI ao amin'ny OpenAI (2021), raha toa ka tsy nahavita afa-tsy tamin'ny taona 2010 ny rafitra AI, dia azo antoka fa ny ankamaroan'ny fikarohana momba ny fampifanarahana AI dia mavesatra amin'ny teoria. Rehefa ampifanarahana ny rafitra AI mahery vaika, ny iray amin'ireo fanamby atrehin'ny olombelona dia ny hoe mety hamorona vahaolana saro-pady loatra ireo milina ireo mba handinihana sy hanombanana raha mitombina ny etika.

Leike dia namolavola tetikady recursive reward modeling (RRM) hamahana ity olana ity. Miaraka amin'ny RRM, AI "mpanampy" maromaro no ampianarina hanampy ny olombelona hanombantombana ny fahaizan'ny AI sarotra kokoa. Manantena ny mety hisian'ny famoronana zavatra lazainy ho "MVP alignment" izy. Amin'ny teny fanombohana, ny MVP (na vokatra azo tsapain-tanana kely indrindra) no vokatra tsotra indrindra azon'ny orinasa amboarina mba hitsapana hevitra. Ny fanantenana dia indray andro any, ny AI dia mifanandrify amin'ny zava-bitan'ny olombelona amin'ny fikarohana AI sy ny fampifanarahana azy amin'ny soatoavina sady miasa ihany koa.

Na dia tsara aza ny fampitomboana ny fahalianana amin'ny fampifanarahana AI, maro amin'ireo mpandinika amin'ny sehatra no mihevitra fa ny ankamaroan'ny asa "etika" amin'ny laboratoara AI dia ny fifandraisan'ny besinimaro fotsiny natao mba hahatonga ny orinasan'ny teknolojia ho tsara sy hisorohana ny fampahafantarana ratsy. Ireo olona ireo dia tsy manantena fa ho lasa laharam-pahamehana ho an'ireo orinasa ireo ny fanao amin'ny fampandrosoana ara-moraly.

Ireo fanamarihana ireo dia manasongadina ny maha-zava-dehibe ny fomba fiasa isan-karazany amin'ny ezaka fampifanarahana ny soatoavina, satria sehatra vaovao amin'ny fanadihadiana ara-moraly sy ara-teknika ity. Ny sampana fahalalana samihafa dia tokony ho anisan'ny fandaharam-pikarohana misy. Ity hetsika ity dia manondro ihany koa ny ilana ny teknolojia sy ny mpanao politika mba hahalala ny toe-javatra ara-tsosialy sy ny mpandray anjara, na dia efa mandroso kokoa aza ny rafitra AI.

Ny fiantraikan'ny fampifanarahana AI

Ny fiantraikany lehibe kokoa amin'ny fampifanarahana AI dia mety ahitana: 

• Ny laboratoara faharanitan-tsaina artifisialy dia manakarama birao etika isan-karazany mba hanara-maso ny tetikasa sy hanatanteraka ny torolàlana momba ny etika AI. 
• Ny governemanta dia mamorona lalàna izay mitaky ny orinasa hanolotra ny rafitry ny AI tompon'andraikitra sy ny fomba kasainy hampivelatra bebe kokoa ny tetikasa AI.
• Nitombo ny adihevitra momba ny fampiasana algorithm amin'ny fandraisana mpiasa, ny fanaraha-maso ny vahoaka ary ny fampiharana ny lalàna.
• Mpikaroka voaroaka tao amin'ny laboratoara AI lehibe noho ny fifandonana mahaliana eo amin'ny etika sy ny tanjon'ny orinasa.
• Fanerena bebe kokoa ho an'ny governemanta hifehy ny rafitra AI mandroso izay sady mahery vaika nefa mety handika ny zon'olombelona.

Fanontaniana handinihana

• Ahoana no ahafahan'ny orinasa mandray andraikitra amin'ny rafitra AI noforoniny?
• Inona avy ireo loza mety hitranga raha misy ny tsy fitovian'ny AI?