Alignment AI: Cocog sareng tujuan kecerdasan jieunan cocog sareng nilai manusa

• Author:
• Ngaran pangarang

  Quantumrun tetempoan
• Januari 25, 2023

Penyelarasan kecerdasan jieunan (AI) nyaéta nalika tujuan sistem AI cocog sareng nilai manusa. Perusahaan sapertos OpenAI, DeepMind, sareng Anthropic gaduh tim peneliti anu ngan ukur fokus pikeun diajar pager pikeun skénario anu béda-béda dimana ieu tiasa kajantenan.

Kontéks alignment AI

Numutkeun kana panilitian Universitas Cornell 2021, sababaraha panilitian nunjukkeun yén alat atanapi modél anu diciptakeun ku algoritma nunjukkeun bias anu sumberna tina data anu dilatih. Contona, dina ngolah basa alami (NLP), pilih model NLP dilatih dina set data kawates geus documented nyieun prediksi dumasar kana stereotypes gender ngabahayakeun ngalawan awéwé. Kitu ogé, panilitian anu sanés mendakan yén algoritma anu dilatih dina set data anu dirusak nyababkeun saran anu bias ras, khususna dina policing.

Aya seueur conto dimana sistem pembelajaran mesin parantos langkung parah pikeun minoritas atanapi kelompok anu kakurangan tina sababaraha kalemahan. Khususna, analisa raray otomatis sareng diagnostik kasehatan biasana henteu tiasa dianggo pikeun awéwé sareng jalma warna. Nalika sistem kritis anu kedah didasarkeun kana fakta sareng logika tibatan émosi dianggo dina kontéks sapertos ngalokasikeun kasehatan atanapi pendidikan, aranjeunna tiasa langkung seueur karusakan ku ngajantenkeun langkung hese pikeun ngaidentipikasi alesan di balik saran ieu.

Hasilna, firma téknologi nyiptakeun tim alignment AI pikeun difokuskeun ngajaga algoritma anu adil sareng manusiawi. Panaliti penting pikeun ngartos arah sistem AI canggih, ogé tangtangan anu mungkin urang hadapi nalika kamampuan AI tumbuh.

Dampak ngaganggu

Numutkeun ka Jan Leike, kapala alignment AI di OpenAI (2021), nunjukkeun yén sistem AI ngan ukur tiasa mampuh dina taun 2010, éta kaharti yén kalolobaan panalungtikan alignment AI parantos beurat téori. Nalika sistem AI anu kuat pisan dijajarkeun, salah sahiji tantangan anu disanghareupan ku manusa nyaéta yén mesin ieu tiasa nyiptakeun solusi anu pajeulit teuing pikeun ditinjau sareng ditaksir upami aranjeunna masuk akal sacara étika.

Leike nyiptakeun strategi modeling ganjaran rekursif (RRM) pikeun ngalereskeun masalah ieu. Kalayan RRM, sababaraha AI "pembantu" diajarkeun pikeun ngabantosan manusa ngevaluasi kumaha kinerja AI anu langkung kompleks. Anjeunna optimistis ngeunaan kamungkinan nyieun hiji hal anjeunna nujul kana salaku "alignment MVP". Dina istilah ngamimitian, hiji MVP (atawa produk giat minimum) nyaéta produk pangbasajanna mungkin pausahaan bisa ngawangun pikeun nguji kaluar hiji gagasan. Harepan yén hiji dinten, AI cocog sareng kinerja manusa dina nalungtik AI sareng alignment na sareng nilai-nilai bari ogé fungsional.

Nalika ningkatkeun minat alignment AI mangrupikeun positip bersih, seueur analis di lapangan nganggap yén seueur "etika" damel di laboratorium AI ngarah ngan ukur hubungan umum anu dirancang pikeun ngajantenkeun perusahaan téknologi katingali saé sareng nyingkahan publisitas négatip. Individu-individu ieu henteu ngarepkeun prakték pangembangan étika janten prioritas pikeun perusahaan-perusahaan ieu iraha waé pas.

Observasi ieu nyorot pentingna pendekatan interdisciplinary pikeun usaha alignment nilai, sabab ieu wewengkon kawilang anyar tina panalungtikan moral jeung teknis. Cabang-cabang pangaweruh anu béda kedah janten bagian tina agenda panalungtikan anu inklusif. Inisiatif ieu ogé nunjukkeun kabutuhan téknologi sareng pembuat kawijakan pikeun tetep sadar kana kontéks sosial sareng pamangku kapentingan, bahkan nalika sistem AI janten langkung maju.

Implikasi tina alignment AI

Implikasi anu langkung ageung tina alignment AI tiasa kalebet: 

• Laboratorium intelijen jieunan nyewa papan étika anu béda pikeun ngawas proyék sareng minuhan pedoman AI étika. 
• Pamaréntah nyiptakeun undang-undang anu meryogikeun perusahaan ngalebetkeun kerangka AI anu tanggung jawab sareng kumaha aranjeunna ngarencanakeun pikeun ngembangkeun proyék AI na.
• Ngaronjatkeun kontrovérsi ngeunaan panggunaan algoritma dina rekrutmen, panjagaan umum, sareng penegak hukum.
• Panaliti dipecat tina laboratorium AI ageung kusabab konflik kapentingan antara étika sareng tujuan perusahaan.
• Langkung tekanan pikeun pamaréntah pikeun ngatur sistem AI canggih anu duanana luar biasa kuat tapi berpotensi ngalanggar HAM.

Patarosan pikeun mairan

• Kumaha perusahaan tiasa janten tanggung jawab pikeun sistem AI anu aranjeunna ciptakeun?
• Naon poténsi bahaya anu sanés upami aya kasalahan AI?