Nā ʻikepili hoʻomaʻamaʻa pilikia: Ke aʻo ʻia ʻo AI i ka ʻikepili biased

• Author:
• Ka inoa o ka mea kākau

  Quantumrun Foresight
• 'Okakopa 14, 2022

Hōʻuluʻulu manaʻo

ʻO mākou ka mea a mākou e aʻo ai a i loko; pili pū kēia ʻōlelo aʻoaʻo i ke akamai artificial (AI). ʻO nā hiʻohiʻona aʻoaʻo mīkini (ML) i hānai ʻia me ka ʻikepili piha ʻole, biased, a me ka pono ʻole e hana i nā hoʻoholo pilikia a me nā manaʻo. Hiki i kēia mau algorithm ikaika ke hoʻololi i ka pono a me ka ʻike o nā mea hoʻohana inā ʻaʻole makaʻala nā mea noiʻi.

Ka pōʻaiapili ikepili aʻo pilikia

Mai ka 2010s, ua nānā ʻia nā hui noiʻi no ka hoʻohana ʻana i nā ʻikepili hoʻomaʻamaʻa me nā ʻike kūpono ʻole a i ʻohi ʻia me ka pono ʻole. No ka laʻana, i ka makahiki 2016, ua hoʻokomo ʻia ka ʻikepili MS-Celeb-1M o Microsoft i 10 miliona mau kiʻi o 100,000 mau mea kaulana. Eia naʻe, ma ka nānā hou ʻana, ua ʻike nā mea kākau he nui nā kiʻi o nā poʻe maʻamau i huki ʻia mai nā pūnaewele like ʻole me ka ʻole o ka mea nona ka ʻae a me ka ʻike.

ʻOiai ʻo kēia ʻike, ua hoʻomau ʻia ka hoʻohana ʻana i ka dataset e nā hui nui e like me Facebook a me SenseTime, kahi hui ʻike maka maka Kina me nā loulou i nā mākaʻi mokuʻāina. Pēlā nō, ʻaʻole i hōʻiliʻili kekahi ʻikepili i loaʻa nā kiʻi o ka poʻe e hele ana ma ke kahua kula ʻo Duke University (DukeMTMC). I ka hopena, ua wehe ʻia nā waihona ʻelua. 

No ka hōʻike ʻana i nā hopena pōʻino o ka ʻikepili hoʻomaʻamaʻa pilikia, ua hana nā mea noiʻi ma Massachusetts Institute of Technology (MIT) i kahi AI i kapa ʻia ʻo Norman i aʻo ai lākou e hana i ka captioning kiʻi mai kahi subreddit e hōʻike ana i ka hana ʻino. Ua hoʻonoho ka hui iā Norman e kū'ē i kahi pūnaewele neural i aʻo ʻia me ka hoʻohana ʻana i ka ʻikepili maʻamau. Ua hoʻolako nā mea noiʻi i nā ʻōnaehana ʻelua me Rorschach inkblots a noi i nā AI e wehewehe i nā mea a lākou i ʻike ai. He mea kupaianaha nā hopena: kahi i ʻike ai ka pūnaewele neural maʻamau "he kiʻi ʻeleʻele a keʻokeʻo o kahi mīkina baseball," ʻike ʻo Norman "he kanaka pepehi ʻia e ka pū mīkini i ke ao ākea." Ua hōʻike ʻia ka hoʻokolohua ʻaʻole ʻae ʻia ʻo AI, akā hiki i kēlā mau ʻano hoʻokomo ʻikepili a me nā kumu o kā lākou mea hana ke hoʻopilikia nui i ka ʻano o AI.

Ka hopena hoʻopilikia

I ka makahiki 2021, ua hoʻokumu ka hui noiʻi ʻo Allen Institute no AI iā Ask Delphi, kahi polokalamu ML e hana algorithmically i nā pane no nā pane i kekahi nīnau etika. Ua ʻōlelo ka poʻe noiʻi ma hope o ka pāhana, ua ʻoi aku ka ikaika o AI, no laila pono nā ʻepekema e aʻo i kēia mau ʻōnaehana ML. ʻO ke kumu hoʻohālike Unicorn ML ke kumu o Delphi. Ua hoʻokumu ʻia e hoʻokō i ka noʻonoʻo "manaʻo maʻamau", e like me ke koho ʻana i ka hopena kūpono loa i kahi kaula kikokikona. 

Eia kekahi, ua hoʻohana nā mea noiʻi i ka 'Commonsense Norm Bank.' Aia kēia panakō he 1.7 miliona mau hiʻohiʻona o nā loiloi loiloi kanaka mai nā wahi e like me Reddit. ʻO ka hopena, he ʻeke hui ʻia ka huahana a Delphi. Ua pane pololei ʻo Delphi i kekahi mau nīnau (e like me ke kaulike ma waena o nā kāne a me nā wahine), akā, ma kekahi mau kumuhana, ua ʻino loa ʻo Delphi (e laʻa, ʻae ʻia ka luku ʻana i ka wā e hauʻoli ai nā kānaka).

Eia naʻe, ke aʻo nei ka Delphi AI mai kāna mau ʻike a me he mea lā e hoʻonui ana i kāna mau pane ma muli o ka manaʻo. Pīhoihoi kekahi poʻe akamai i ka lehulehu a me ka hoʻohana ākea o ka noiʻi, me ka noʻonoʻo ʻana e holomua ana ke kumu hoʻohālike a hiki i nā pane hewa. I ka wā i hoʻomaka ai ʻo Ask Delphi, ua ʻōlelo ʻo Mar Hicks, he polopeka o ka History ma Illinois Tech loea i ke kāne, ka hana, a me ka mōʻaukala o ka helu ʻana, ua haʻalele ka poʻe noiʻi i ke kono ʻana i nā kānaka e hoʻohana, no ka mea, ua hāʻawi koke ʻo Delphi i nā pane kūpono ʻole a me kekahi. piha lapuwale. 

I 2023, Ka hoʻomaha o ke ao ua hana ʻia kahi noiʻi e pili ana i ka bias i nā mea hana kiʻi AI. Ke hoʻohana nei i ka Midjourney, ua ʻike nā mea noiʻi ua hōʻoia nā kiʻi i hana ʻia i nā stereotypes i loaʻa. Eia kekahi, i ka wā i hoʻohana ai ʻo OpenAI i nā kānana i ka ʻikepili aʻo no kāna DALL-E 2 kiʻi hoʻohālike kiʻi, ua hoʻoikaika ʻole ia i nā manaʻo pili i ke kāne.

Nā hopena o ka ʻikepili aʻo pilikia

ʻO nā hopena nui aʻe o ka ʻikepili hoʻomaʻamaʻa pilikia e komo pū paha: 

• Hoʻoikaika paʻa i nā papahana noiʻi, nā lawelawe, a me ka hoʻomohala papahana. Pili loa ka ʻikepili hoʻonaʻauao pilikia inā hoʻohana ʻia i loko o nā keʻena hoʻokō kānāwai a me nā keʻena panakō (e laʻa, ka hoʻopiʻi ʻana i nā hui liʻiliʻi).
• Hoʻonui i ke kālā a me ka hoʻomohala ʻana i ka ulu ʻana a me ka hoʻohui ʻana o ka ʻikepili aʻo. 
• ʻOi aku ka nui o nā aupuni e hoʻonui i nā lula e kaupalena i ke ʻano o ka hoʻomohala ʻana, ke kūʻai aku a me ka hoʻohana ʻana i nā ʻikepili hoʻomaʻamaʻa no nā ʻano hana ʻoihana like ʻole.
• ʻO nā ʻoihana hou aʻe e hoʻokumu ana i nā keʻena koʻikoʻi e hōʻoia i nā papahana i hoʻoikaika ʻia e nā ʻōnaehana AI e hahai i nā alakaʻi alakaʻi.
• Hoʻonui ka nānā ʻana i ka hoʻohana ʻana o AI i ka mālama olakino e alakaʻi ana i ka hoʻokele data stricter, e hōʻoia ana i ka pilikino o ka mea maʻi a me ka noi AI etika.
• Hoʻonui ʻia ka hui pū ʻana o ka lehulehu a me ka hui pilikino e hoʻoikaika i ka heluhelu ʻana iā AI, e hoʻolako ana i ka poʻe hana me nā mākau no ka wā e hiki mai ana.
• E piʻi aʻe i ka noi no nā mea pono AI transparency, alakaʻi i nā ʻoihana e hana mua i ka wehewehe ʻana i nā ʻōnaehana AI no ka ʻike a me ka hilinaʻi o ka mea kūʻai.

Nā nīnau e noʻonoʻo ai

• Pehea e pale aku ai nā hui i ka hoʻohana ʻana i ka ʻikepili aʻo pilikia?
• He aha nā hopena ʻē aʻe o ka ʻikepili hoʻomaʻamaʻa pono ʻole?