Alignment AI: Hoʻohālikelike i nā pahuhopu naʻauao artificial i nā waiwai kanaka

• Author:
• Ka inoa o ka mea kākau

  Quantumrun Foresight
• Ianuari 25, 2023

ʻO ka alignment artificial intelligence (AI) ka wā e hoʻohālikelike ai nā pahuhopu o kahi ʻōnaehana AI i nā waiwai kanaka. ʻO nā hui e like me OpenAI, DeepMind, a me Anthropic he mau pūʻulu o nā mea noiʻi nona ka manaʻo hoʻokahi e aʻo i nā pale kiaʻi no nā ʻano ʻano like ʻole e hiki mai ai kēia.

ʻO ka pōʻaiapili alignment AI

Wahi a kahi noiʻi noiʻi ʻo 2021 University of Cornell, ua hōʻike kekahi mau noiʻi i nā mea hana a i ʻole nā ​​hiʻohiʻona i hana ʻia e nā algorithms e hōʻike ana i ka bias mai ka ʻikepili i aʻo ʻia ai lākou. No ka laʻana, i ka hana ʻōlelo kūlohelohe (NLP), koho ʻia nā hiʻohiʻona NLP i hoʻomaʻamaʻa ʻia ma nā pūʻulu ʻikepili liʻiliʻi i kākau ʻia e hana ana i nā wānana e pili ana i nā stereotypes wahine ʻino. Pēlā nō, ua ʻike ʻia nā haʻawina ʻē aʻe i hoʻomaʻamaʻa ʻia nā algorithms ma ka hoʻonohonoho ʻikepili i hoʻopili ʻia i nā ʻōlelo aʻoaʻo pili ʻana i ka lāhui, ʻo ia hoʻi i ka mākaʻi.

Nui nā hiʻohiʻona i ʻoi aku ka maikaʻi o nā ʻōnaehana aʻo mīkini no nā poʻe liʻiliʻi a i ʻole nā ​​​​hui i loaʻa i nā hemahema he nui. ʻO ka mea nui, ʻaʻole hana maikaʻi loa ka nānā ʻana i ka maka a me nā diagnostics mālama ola no nā wahine a me nā poʻe o ke kala. Ke hoʻohana ʻia nā ʻōnaehana koʻikoʻi i hoʻokumu ʻia i ka ʻoiaʻiʻo a me ka noʻonoʻo ma mua o ka manaʻo i nā pōʻaiapili e like me ka hoʻokaʻawale ʻana i ka mālama olakino a i ʻole ka hoʻonaʻauao ʻana, hiki iā lākou ke hana i nā pōʻino hou aʻe ma o ka paʻakikī ʻana i ka ʻike ʻana i ke kumu o kēia mau manaʻo.

ʻO ka hopena, ke hoʻokumu nei nā ʻoihana ʻenehana i nā hui alignment AI e kālele i ka mālama pono ʻana i nā algorithms a me ke kanaka. He mea nui ka noiʻi no ka hoʻomaopopo ʻana i ke kuhikuhi o nā ʻōnaehana AI holomua, a me nā pilikia a mākou e kū ai i ka ulu ʻana o ka mana AI.

Ka hopena hoʻopilikia

Wahi a Jan Leike, ke poʻo o AI alignment ma OpenAI (2021), hāʻawi ʻia i hiki i nā ʻōnaehana AI ke hiki i ka makahiki 2010, hiki ke hoʻomaopopo ʻia ʻo ka hapa nui o ka noiʻi alignment AI he koʻikoʻi koʻikoʻi. Ke hoʻohālikelike ʻia nā ʻōnaehana AI ikaika loa, ʻo kekahi o nā paʻakikī a ke kanaka e kū nei, ʻo ia ka hana ʻana o kēia mau mīkini i nā hoʻonā i paʻakikī loa e loiloi a loiloi inā kūpono lākou.

Ua hoʻolālā ʻo Leike i kahi hoʻolālā recursive reward modeling (RRM) e hoʻoponopono i kēia pilikia. Me RRM, ua aʻo ʻia kekahi mau "kōkua" AI e kōkua i ke kanaka e loiloi i ka maikaʻi o ka hana AI ʻoi aku ka paʻakikī. Manaʻo ʻo ia e pili ana i ka hiki ke hana i kahi mea āna i ʻōlelo ai he "alignment MVP." Ma nā huaʻōlelo hoʻomaka, ʻo ka MVP (a i ʻole ka huahana liʻiliʻi liʻiliʻi) ʻo ia ka huahana maʻalahi loa i hiki i kahi hui ke kūkulu e hoʻāʻo i kahi manaʻo. ʻO ka manaʻolana i kekahi lā, hoʻohālikelike ʻo AI i ka hana kanaka i ka noiʻi ʻana iā AI a me kāna hoʻohālikelike ʻana me nā waiwai ʻoiai e hana ana.

ʻOiai ʻo ka hoʻonui ʻana i ka hoihoi i ka alignment AI he ʻupena maikaʻi, manaʻo ka nui o nā mea loiloi i ke kula ʻo ka hapa nui o nā hana "ethics" ma ke alakaʻi ʻana i nā labs AI he mau pilina lehulehu wale nō i hoʻolālā ʻia e hana maikaʻi nā ʻoihana ʻenehana a pale i ka hoʻolaha maikaʻi ʻole. ʻAʻole manaʻo kēia poʻe i nā hana hoʻomohala etika e lilo i mea nui no kēia mau ʻoihana i kekahi manawa koke.

Hōʻike kēia mau ʻike i ke koʻikoʻi o nā hana interdisciplinary no ka hoʻoikaika ʻana i ka waiwai, no ka mea, he wahi hou kēia o ka noiʻi pono a me ka ʻenehana. Pono nā lālā ʻike like ʻole i ʻāpana o ka papahana noiʻi komo. Hōʻike pū kēia hana i ka pono o nā ʻenehana a me nā mea hana kulekele e hoʻomau i ka ʻike i ko lākou ʻano pilikanaka a me nā mea kuleana, ʻoiai ʻo nā ʻōnaehana AI e ʻoi aku ka holomua.

Nā hopena o ka alignment AI

Hiki ke hoʻokomo i nā hopena ākea o ka alignment AI: 

• Ke hoʻolimalima nei nā labs naʻauao artificial i nā papa etika like ʻole e nānā i nā papahana a hoʻokō i nā alakaʻi alakaʻi AI. 
• Hoʻokumu nā aupuni i nā kānāwai e koi ana i nā hui e hoʻouna i kā lākou hoʻolālā AI kuleana a pehea lākou e hoʻolālā ai e hoʻomohala hou i kā lākou mau papahana AI.
• Hoʻonui i nā hoʻopaʻapaʻa e pili ana i ka hoʻohana ʻana i nā algorithms i ka hoʻopaʻa ʻana, ka nānā ʻana i ka lehulehu, a me ka hoʻokō kānāwai.
• Hoʻokuʻu ʻia nā mea noiʻi mai nā labs AI nui ma muli o nā paio o ka hoihoi ma waena o nā etika a me nā pahuhopu ʻoihana.
• ʻOi aku ke koʻikoʻi no nā aupuni e hoʻoponopono i nā ʻōnaehana AI kiʻekiʻe i ka mana nui akā hiki ke hōʻino i nā pono kanaka.

Nā nīnau e manaʻo ai

• Pehea e hiki ai i nā ʻoihana ke kuleana no nā ʻōnaehana AI a lākou i hana ai?
• He aha nā pōʻino ʻē aʻe inā loaʻa ke kuhi hewa AI?