Penyelarasan AI: Cocog karo tujuan intelijen buatan sing cocog karo nilai manungsa

• Babagan Author:
• Jeneng panganggit

  Quantumrun Foresight
• Januari 25, 2023

Penyelarasan intelijen buatan (AI) yaiku nalika tujuan sistem AI cocog karo nilai manungsa. Perusahaan kaya OpenAI, DeepMind, lan Anthropic duwe tim peneliti sing fokus siji-sijine yaiku sinau pager kanggo macem-macem skenario sing bisa kedadeyan.

konteks keselarasan AI

Miturut panaliten riset Universitas Cornell ing taun 2021, sawetara panliten nuduhake manawa alat utawa model sing digawe algoritma nampilake bias sing asale saka data sing dilatih. Contone, ing pangolahan basa alami (NLP), pilih model NLP sing dilatih ing set data winates wis didokumentasikake nggawe prediksi adhedhasar stereotip jender sing mbebayani tumrap wanita. Kajaba iku, panaliten liyane nemokake manawa algoritma sing dilatih ing set data sing dirusak ngasilake rekomendasi sing bias rasial, utamane babagan kepolisian.

Ana akeh conto ing sistem pembelajaran mesin sing luwih elek kanggo minoritas utawa kelompok sing nandhang macem-macem kekurangan. Utamane, analisis rai otomatis lan diagnostik perawatan kesehatan biasane ora bisa digunakake kanthi apik kanggo wanita lan wong sing duwe warna. Nalika sistem kritis sing kudu adhedhasar fakta lan logika tinimbang emosi digunakake ing konteks kaya ngalokasi kesehatan utawa pendhidhikan, bisa nyebabake luwih akeh karusakan kanthi nggawe luwih angel ngenali alasan ing mburi rekomendasi kasebut.

Akibaté, perusahaan teknologi nggawe tim penyelarasan AI kanggo fokus supaya algoritma tetep adil lan manusiawi. Riset penting kanggo mangerteni arah sistem AI sing luwih maju, uga tantangan sing bisa diadhepi nalika kemampuan AI tuwuh.

Dampak gangguan

Miturut Jan Leike, kepala penyelarasan AI ing OpenAI (2021), amarga sistem AI mung bisa ditindakake ing taun 2010-an, bisa dingerteni manawa umume riset keselarasan AI wis akeh teori. Nalika sistem AI sing kuat banget didadekake siji, salah sawijining tantangan sing diadhepi manungsa yaiku mesin kasebut bisa nggawe solusi sing rumit banget kanggo dideleng lan ditaksir manawa ana akal kanthi etis.

Leike nyipta strategi modeling ganjaran rekursif (RRM) kanggo ndandani masalah iki. Kanthi RRM, sawetara AI "helper" diwulangake kanggo mbantu manungsa ngevaluasi kinerja AI sing luwih rumit. Dheweke optimistis babagan kemungkinan nggawe apa sing diarani minangka "MVP alignment." Ing istilah wiwitan, MVP (utawa produk minimal sing bisa ditindakake) minangka produk paling gampang sing bisa digawe perusahaan kanggo nyoba ide. Pangarep-arep yen ing sawijining dina, AI cocog karo kinerja manungsa ing riset AI lan keselarasan karo nilai-nilai nalika uga fungsional.

Nalika nambah kapentingan ing keselarasan AI minangka positif net, akeh analis ing lapangan mikir yen akeh "etika" karya ing lab AI anjog mung hubungan masyarakat sing dirancang kanggo nggawe perusahaan teknologi katon apik lan ngindhari publisitas negatif. Wong-wong iki ora ngarep-arep praktik pangembangan etika dadi prioritas kanggo perusahaan kasebut kapan wae.

Pengamatan kasebut nyoroti pentinge pendekatan interdisipliner kanggo upaya keselarasan nilai, amarga iki minangka area penyelidikan moral lan teknis sing relatif anyar. Cabang-cabang kawruh sing beda-beda kudu dadi bagean saka agenda riset inklusif. Inisiatif iki uga nuduhake kabutuhan teknologi lan pembuat kebijakan supaya tetep ngerti konteks sosial lan para pemangku kepentingan, sanajan sistem AI dadi luwih maju.

Implikasi saka keselarasan AI

Implikasi sing luwih akeh saka keselarasan AI bisa uga kalebu: 

• Lab intelijen buatan nyewa macem-macem papan etika kanggo ngawasi proyek lan netepi pedoman AI etis. 
• Pamrentah nggawe undang-undang sing mbutuhake perusahaan ngirim kerangka AI sing tanggung jawab lan kepiye rencana ngembangake proyek AI.
• Tambah kontroversi babagan panggunaan algoritma ing rekrutmen, pengawasan umum, lan penegakan hukum.
• Peneliti dipecat saka laboratorium AI gedhe amarga konflik kepentingan antarane etika lan tujuan perusahaan.
• Tekanan liyane kanggo pamrentah kanggo ngatur sistem AI canggih sing luar biasa kuat nanging bisa nglanggar hak asasi manungsa.

Pitakonan kanggo komentar

• Kepiye carane perusahaan bisa tanggung jawab kanggo sistem AI sing digawe?
• Apa bebaya potensial liyane yen ana misalignment AI?