Sonraí oiliúna fadhbacha: Nuair a mhúintear AI sonraí claonta

• Author:
• ainm Údar

  Réamhfhéachaint Quantumrun
• Deireadh Fómhair 14, 2022

Achoimre léargais

Is sinne a fhoghlaimímid agus a inmheánaíonn muid; baineann an dictum seo freisin le hintleachta saorga (AI). Déanfaidh samhlacha meaisínfhoghlama (ML) a chothaítear le sonraí neamhiomlána, claonta agus mí-eiticiúil cinntí agus moltaí fadhbacha ar deireadh thiar. Féadfaidh na halgartaim chumhachtacha seo tionchar a imirt ar mhoráltacht agus ar thuairimí úsáideoirí mura mbíonn taighdeoirí cúramach.

Comhthéacs sonraí oiliúna fadhbach

Ó na 2010idí i leith, tá grinnscrúdú déanta ar fhoirne taighde maidir le tacair shonraí oiliúna a úsáid a bhfuil ábhar mí-oiriúnach iontu nó a bailíodh go mí-eiticiúil. Mar shampla, i 2016, chuimsigh bunachar sonraí MS-Celeb-1M Microsoft 10 milliún íomhánna de 100,000 cáiliúla éagsúla. Tar éis iniúchadh breise a dhéanamh, áfach, fuair comhfhreagraithe amach go raibh go leor grianghraif de ghnáthdhaoine a tarraingíodh ó láithreáin ghréasáin éagsúla gan toiliú nó eolas an úinéara.

In ainneoin an réadaithe seo, lean cuideachtaí móra ar nós Facebook agus SenseTime, cuideachta Síneach aitheantais aghaidhe a bhfuil naisc aici leis na póilíní stáit, ag baint úsáide as an tacar sonraí. Mar an gcéanna, níor bhailigh tacar sonraí ina raibh pictiúir de dhaoine ag siúl ar champas Ollscoil Duke (DukeMTMC) toiliú ach an oiread. Ar deireadh, baineadh an dá thacar sonraí. 

Chun aird a tharraingt ar na héifeachtaí díobhálacha a bhaineann le sonraí oiliúna fadhbacha, chruthaigh taighdeoirí in Institiúid Teicneolaíochta Massachusetts (MIT) AI ar a dtugtar Norman a mhúin siad chun fotheidealú íomhánna a dhéanamh ó subreddit a leag béim ar fhoréigean grafach. Chuir an fhoireann Norman i gcoinne gréasán néarúil a bhí oilte ag baint úsáide as gnáthshonraí. Sholáthair na taighdeoirí blótaí dúch Rorschach don dá chóras agus d’iarr siad ar na AIanna cur síos a dhéanamh ar a bhfaca siad. Bhí na torthaí iontach: nuair a chonaic an líonra néarúil caighdeánach "grianghraf dubh agus bán de lámhainní baseball," thug Norman faoi deara "fear a dúnmharaíodh le gunna meaisín i solas an lae." Léirigh an turgnamh nach bhfuil AI claonta go huathoibríoch, ach is féidir leis na modhanna ionchuir sonraí sin agus motives a cruthaitheoirí tionchar suntasach a imirt ar iompar AI.

Tionchar suaite

In 2021, chruthaigh an eagraíocht taighde Allen Institute for AI Ask Delphi, bogearraí ML a ghineann freagraí algartamacha ar fhreagraí ar aon cheist eiticiúil. Dúirt na taighdeoirí taobh thiar den tionscadal go bhfuil AI ag éirí níos cumhachtaí agus níos eolach de réir a chéile, agus mar sin ní mór d'eolaithe eiticí na gcóras ML seo a mhúineadh. Is é an tsamhail Unicorn ML bunús Delphi. Ceapadh é chun réasúnaíocht “chiall choiteann” a dhéanamh, mar shampla an deireadh is dóichí a roghnú le teaghrán téacs. 

Ina theannta sin, d'úsáid taighdeoirí an 'Commonense Norm Bank.' Tá an banc seo comhdhéanta de 1.7 milliún sampla de mheastóireachtaí eiticiúla daoine ó áiteanna mar Reddit. Mar thoradh air sin, bhí aschur Delphi ina mhála measctha. D’fhreagair Delphi roinnt ceisteanna go réasúnta (m.sh., comhionannas idir fir agus mná), ach, ar ábhair áirithe, bhí Delphi go hiomlán maslach (m.sh., tá cinedhíothú inghlactha chomh fada agus a chuir sé áthas ar dhaoine).

Mar sin féin, tá AI Delphi ag foghlaim óna thaithí agus is cosúil go bhfuil sé ag nuashonrú a chuid freagraí bunaithe ar aiseolas. Tá roinnt saineolaithe buartha faoi úsáid phoiblí agus oscailte an taighde, ag smaoineamh go bhfuil an tsamhail ar siúl agus go bhfuil seans maith ann go mbeidh freagraí earráideacha ann. Nuair a bhí Ask Delphi debuted, dúirt Mar Hicks, ollamh le Stair ag Illinois Tech a speisialtóireacht in inscne, saothair, agus stair na ríomhaireachta, go raibh sé faillíoch ar thaighdeoirí cuireadh a thabhairt do dhaoine é a úsáid, ag smaoineamh ar sholáthar Delphi láithreach freagraí thar a bheith mí-eiticiúil agus roinnt. nonsense iomlán. 

I 2023, An chuid eile den domhan rinne sé staidéar ar chlaonadh i ngineadóirí íomhá AI. Ag baint úsáide as Midjourney, fuair taighdeoirí amach go ndearbhaíonn na híomhánna ginte steiréitíopaí atá ann cheana féin. Ina theannta sin, nuair a chuir OpenAI scagairí i bhfeidhm ar na sonraí oiliúna dá shamhail giniúna íomhá DALL-E 2, chuir sé níos déine d’aon turas ar laofachtaí a bhain le hinscne.

Impleachtaí sonraí oiliúna fadhbacha

D’fhéadfadh na nithe seo a leanas a bheith i gceist le himpleachtaí níos leithne sonraí oiliúna fadhbacha: 

• Claontaí treisithe i dtionscadail taighde, i seirbhísí, agus i bhforbairt clár. Is ábhar imní go háirithe sonraí oiliúna fadhbacha má úsáidtear iad in institiúidí forghníomhaithe an dlí agus baincéireachta (eg, díriú go diúltach ar ghrúpaí mionlaigh).
• Infheistíocht agus forbairt mhéadaithe i bhfás agus i réimse na sonraí oiliúna. 
• Níos mó rialtas ag méadú rialacháin chun teorainn a chur le conas a fhorbraíonn, a dhíolann agus a úsáideann corparáidí sonraí oiliúna le haghaidh tionscnamh tráchtála éagsúla.
• Níos mó gnólachtaí ag bunú ranna eitice chun a chinntiú go leanann tionscadail atá á gcumhachtú ag córais AI treoirlínte eiticiúla.
• Iniúchadh feabhsaithe ar úsáid AI i gcúram sláinte as a dtiocfaidh rialachas sonraí níos déine, ag cinntiú príobháideacht othar agus cur i bhfeidhm AI eiticiúil.
• Comhoibriú méadaithe san earnáil phoiblí agus san earnáil phríobháideach chun litearthacht AI a chothú, ag tabhairt scileanna don fhórsa saothair do thodhchaí faoi cheannas AI.
• Méadú ar an éileamh ar uirlisí trédhearcachta AI, rud a thugann ar chuideachtaí tosaíocht a thabhairt do mhíniúchán i gcórais AI maidir le tuiscint agus muinín tomhaltóirí.

Ceisteanna le breithniú

• Conas a d’fhéadfadh eagraíochtaí sonraí fadhbacha oiliúna a sheachaint?
• Cad iad na hiarmhairtí féideartha eile a bhaineann le sonraí oiliúna mí-eiticiúil?