Aliyman AI: Matche objektif entèlijans atifisyèl matche ak valè imen

• otè:
• non otè

  Pwovizyon Quantumrun
• 25 Janvye 2023

Aliyman entèlijans atifisyèl (AI) se lè objektif yon sistèm AI matche ak valè imen. Konpayi tankou OpenAI, DeepMind, ak Anthropic gen ekip chèchè ki gen sèl konsantre se etidye guardrails pou diferan senaryo kote sa a ta ka rive.

Kontèks aliyman AI

Dapre yon etid rechèch 2021 University of Cornell, plizyè etid te montre ke zouti oswa modèl ki te kreye pa algoritm montre patipri ki soti nan done yo te resevwa fòmasyon sou yo. Pou egzanp, nan pwosesis langaj natirèl (NLP), yo te dokimante seleksyon modèl NLP ki resevwa fòmasyon sou seri done limite fè prediksyon ki baze sou estereyotip sèks danjere kont fanm yo. Menm jan an tou, lòt etid yo te jwenn ke algoritm ki fòme sou seri done falsifye te lakòz rekòmandasyon rasyal patipri, patikilyèman nan lapolis.

Gen anpil egzanp nan ki sistèm aprantisaj machin yo te fè pi mal pou minorite oswa gwoup ki soufri dezavantaj miltip. An patikilye, otomatik analiz feminen ak dyagnostik swen sante tipikman pa travay trè byen pou fanm ak moun ki gen koulè. Lè sistèm kritik ki ta dwe baze sou reyalite ak lojik olye de emosyon yo itilize nan kontèks tankou alokasyon swen sante oswa edikasyon, yo ka fè plis domaj lè yo rann li pi difisil pou idantifye rezònman ki dèyè rekòmandasyon sa yo.

Kòm yon rezilta, konpayi teknoloji yo ap kreye ekip aliyman AI pou konsantre sou kenbe algoritm yo jis ak imen. Rechèch esansyèl pou konprann direksyon sistèm AI avanse yo, ansanm ak defi nou ta ka rankontre pandan kapasite AI ap grandi.

Enpak deranje

Dapre Jan Leike, ki an tèt aliyman AI nan OpenAI (2021), bay sistèm AI yo te sèlman vin kapab nan ane 2010 yo, li konprann ke pifò rechèch aliyman AI te teyori-lou. Lè sistèm AI ekstrèmman pwisan yo aliyen, youn nan defi imen yo fè fas a se ke machin sa yo ka kreye solisyon ki twò konplike pou revize ak evalye si yo gen sans etik.

Leike te envante yon estrateji modèl rekonpans repetitif (RRM) pou rezoud pwoblèm sa a. Avèk RRM, yo anseye plizyè AI "èd" pou ede yon moun evalye kijan yon AI ki pi konplèks fè byen. Li optimis sou posibilite pou kreye yon bagay li refere yo kòm yon "MVP aliyman." An tèm demaraj, yon MVP (oswa minimòm pwodwi solid) se pwodwi ki pi senp posib yon konpayi ka bati pou teste yon lide. Espwa a se ke yon jou, AI matche ak pèfòmans imen nan rechèch AI ak aliyman li yo ak valè pandan y ap tou fonksyonèl.

Pandan ke ogmante enterè nan aliyman AI se yon nèt pozitif, anpil analis nan domèn nan panse ke anpil nan travay "etik" nan dirijan laboratwa AI se jis relasyon piblik ki fèt pou fè konpayi teknoloji yo gade byen epi evite piblisite negatif. Moun sa yo pa atann pratik devlopman etik vin yon priyorite pou konpayi sa yo nenpòt ki lè byento.

Obsèvasyon sa yo mete aksan sou enpòtans apwòch entèdisiplinè pou efò aliyman valè, paske sa a se yon domèn relativman nouvo nan ankèt moral ak teknik. Diferan branch konesans yo ta dwe fè pati yon ajanda rechèch enklizif. Inisyativ sa a montre tou nesesite pou teknològ ak mizisyen politik yo rete okouran de kontèks sosyal yo ak moun ki gen enterè yo, menm lè sistèm AI vin pi avanse.

Enplikasyon aliyman AI

Enplikasyon pi laj nan aliyman AI ka gen ladan: 

• Laboratwa entèlijans atifisyèl yo anboche divès konsèy etik pou sipèvize pwojè yo ak akonpli direktiv etik AI. 
• Gouvènman k ap kreye lwa ki mande pou konpayi yo soumèt fondasyon AI responsab yo ak fason yo planifye pou devlope plis pwojè AI yo.
• Ogmante konfli sou itilizasyon algoritm nan rekritman, siveyans piblik, ak fè respekte lalwa.
• Chèchè yo te revoke nan gwo laboratwa AI akòz konfli enterè ant etik ak objektif antrepriz.
• Plis presyon pou gouvènman yo kontwole sistèm AI avanse ki tou de ekstrèmman pwisan men ki kapab vyole dwa moun.

Kesyon pou komante

• Kouman yo ka rann konpayi yo responsab pou sistèm AI yo kreye yo?
• Ki lòt danje potansyèl yo si gen yon move aliyman AI?