Daidaita AI: Daidaita maƙasudin basirar ɗan adam sun dace da ƙimar ɗan adam

KASHIN HOTO:
Hoton hoto
iStock

Daidaita AI: Daidaita maƙasudin basirar ɗan adam sun dace da ƙimar ɗan adam

Daidaita AI: Daidaita maƙasudin basirar ɗan adam sun dace da ƙimar ɗan adam

Babban taken rubutu
Wasu masu bincike sun yi imanin cewa ya kamata a aiwatar da matakan da za a tabbatar da basirar wucin gadi ba ya cutar da al'umma.
    • About the Author:
    • Sunan marubuci
      Quantumrun Haskaka
    • Janairu 25, 2023

    Daidaita hankali na wucin gadi (AI) shine lokacin da manufofin tsarin AI suka dace da ƙimar ɗan adam. Kamfanoni kamar OpenAI, DeepMind, da Anthropic suna da ƙungiyoyin masu bincike waɗanda kawai abin da suka fi mayar da hankali a kai shi ne nazarin hanyoyin tsaro don yanayi daban-daban waɗanda hakan na iya faruwa.

    mahallin daidaita AI

    Dangane da binciken bincike na Jami'ar Cornell na 2021, bincike da yawa sun nuna cewa kayan aiki ko samfuran da algorithms suka kirkira suna nuna son kai daga bayanan da aka horar da su. Misali, a cikin sarrafa harshe na dabi'a (NLP), zaɓi samfuran NLP waɗanda aka horar akan ƙayyadaddun saiti na bayanai an rubuta su suna yin tsinkaya dangane da illolin jinsi akan mata. Hakazalika, wasu binciken sun gano cewa algorithms da aka horar da su akan saitin bayanan da aka lalata sun haifar da shawarwarin wariyar launin fata, musamman a aikin 'yan sanda.

    Akwai misalai da yawa waɗanda tsarin koyon injin ya yi muni ga ƴan tsiraru ko ƙungiyoyin da ke fama da lahani da yawa. Musamman, nazarin fuska mai sarrafa kansa da bincike na kiwon lafiya yawanci ba sa aiki sosai ga mata da mutane masu launi. Lokacin da m tsarin da ya kamata a dogara a kan gaskiya da dabaru maimakon motsin rai da ake amfani da su a cikin mahallin kamar rarraba kiwon lafiya ko ilimi, za su iya yin ƙarin lalacewa ta hanyar yin wuya a gane dalilin da wadannan shawarwari.

    Sakamakon haka, kamfanonin fasaha suna ƙirƙirar ƙungiyoyin daidaitawa na AI don mai da hankali kan kiyaye algorithms masu adalci da mutuntaka. Bincike yana da mahimmanci don fahimtar jagorancin tsarin AI na ci gaba, da kuma kalubalen da za mu iya fuskanta yayin da damar AI ke girma.

    Tasiri mai rudani

    A cewar Jan Leike, shugaban AI alignment a OpenAI (2021), ganin cewa tsarin AI ya zama mai iyawa kawai a cikin 2010s, yana iya fahimtar cewa yawancin binciken daidaitawar AI ya kasance mai nauyi. Lokacin da tsarin AI mai ƙarfi ya daidaita, ɗayan ƙalubalen da ɗan adam ke fuskanta shine waɗannan injinan na iya ƙirƙirar mafita waɗanda ke da wahala sosai don dubawa da tantancewa idan suna da ma'ana cikin ɗabi'a.

    Leike ya ƙirƙiro dabarar ƙirar lada mai maimaitawa (RMM) don gyara wannan matsalar. Tare da RRM, ana koyar da "mataimaki" AI da yawa don taimakawa ɗan adam kimanta yadda mafi hadaddun AI ke aiki. Yana da kyakkyawan fata game da yiwuwar ƙirƙirar wani abu da ake kira "MVP daidaitawa." A cikin sharuɗɗan farawa, MVP (ko mafi ƙarancin samfuri) shine mafi sauƙin yuwuwar samfurin da kamfani zai iya ginawa don gwada ra'ayi. Fata shi ne cewa wata rana, AI ya dace da aikin ɗan adam a cikin binciken AI da daidaitawa tare da dabi'u yayin da yake aiki.

    Yayin da karuwar sha'awar daidaitawar AI abu ne mai kyau, yawancin manazarta a fagen suna tunanin cewa yawancin ayyukan "da'a" a jagorancin labs AI kawai dangantakar jama'a ce da aka tsara don sa kamfanonin fasaha suyi kyau kuma su guje wa tallata mara kyau. Waɗannan mutane ba sa tsammanin ayyukan haɓaka ɗa'a su zama fifiko ga waɗannan kamfanoni kowane lokaci nan ba da jimawa ba.

    Waɗannan abubuwan lura suna nuna mahimmancin hanyoyin haɗin gwiwa don ƙoƙarin daidaita ƙima, saboda wannan sabon yanki ne na binciken ɗabi'a da fasaha. Ya kamata rassan ilimi daban-daban su zama wani ɓangare na ajandar bincike mai haɗaka. Har ila yau, wannan yunƙurin yana nuna buƙatar masu fasaha da masu tsara manufofi don ci gaba da sanin yanayin zamantakewar su da masu ruwa da tsaki, ko da lokacin da tsarin AI ya ci gaba.

    Abubuwan da ke haifar da daidaitawar AI

    Faɗin tasirin daidaitawar AI na iya haɗawa da: 

    • Labs leken asiri na wucin gadi suna hayar allon ɗa'a iri-iri don sa ido kan ayyuka da cika ƙa'idodin AI. 
    • Gwamnatoci suna ƙirƙirar dokoki waɗanda ke buƙatar kamfanoni su ƙaddamar da tsarin AI mai alhakin su da kuma yadda suke shirin ƙara haɓaka ayyukan AI.
    • Ƙarfafa jayayya kan amfani da algorithms wajen daukar ma'aikata, sa ido na jama'a, da tilasta bin doka.
    • Ana korar masu bincike daga manyan labs na AI saboda rikice-rikice na sha'awa tsakanin ɗabi'a da manufofin kamfanoni.
    • Ƙarin matsin lamba ga gwamnatoci don daidaita tsarin AI na ci gaba waɗanda duka biyu suke da ƙarfi amma suna iya keta haƙƙin ɗan adam.

    Tambayoyi don yin tsokaci akai

    • Ta yaya kamfanoni za a iya ba da lissafi ga tsarin AI da suka ƙirƙira?
    • Menene sauran haɗarin haɗari idan akwai kuskuren AI?

    Nassoshi masu hankali

    Shahararrun hanyoyin haɗin gwiwa da cibiyoyi an yi nufin wannan fahimtar: