Ngajaga AI Benign

Naha robot AI sareng kamajuan gancangna ngahalangan atanapi nguntungkeun kamanusaan di hareup? Sababaraha fisikawan, pangusaha sareng insinyur anu paling berpengaruh di dunya percaya yén éta tiasa nyababkeun langkung seueur cilaka tibatan anu hadé. Kalayan évolusi téknologi anu didorong kana masarakat, naha kedah aya jalma anu dikhususkeun pikeun ngajaga robot AI benign?  

Pilem Proil Proat, I, Robot, kabebasan dicatalkeun kana naon anu sigana dianggap sieun anu teu jelas dina waktu éta - ai). Pilem 2004 nu dibéntangan Will Smith lumangsung dina 2035, nampilkeun dunya dimana robot AI geus nyebar. Saatos nalungtik kajahatan anu diduga dilakukeun ku robot, Smith ningali nalika kecerdasan komunitas robot mekar kamerdékaan, anu teras nyababkeun perang sipil antara manusa sareng robot AI. Nalika éta pilem munggaran dirilis dua belas taun ka tukang, éta umumna ditingali salaku pilem fiksi ilmiah. Di masarakat kontemporer urang ancaman AI pikeun umat manusa teu datang ka fruition, tapi poé éta bisa jadi teu jauh teuing di mangsa nu bakal datang. Prospek ieu nyababkeun sababaraha pikiran anu paling dihormatan pikeun nyobian sareng nyegah naon anu ditakuti ku seueur jalma dina taun 2004.  

Bahaya AI 

Usaha pikeun ngajaga AI teu ngancam sareng nguntungkeun bisa jadi hiji hal anu urang bakal ngahatur nuhun ka diri urang sorangan dina mangsa nu bakal datang. Dina jaman dimana téknologi ngembang pesat sareng nginjeumkeun bantosan kana kahirupan sapopoe rata-rata manusa, hese na ningali cilaka nu bisa ditimbulkeun ku eta. Salaku murangkalih, urang ngimpi masa depan anu sami sareng The Jetsons - kalayan mobil hover sareng Rosie the Robot, pembantu robot Jetsons, ngurilingan bumi pikeun ngabersihkeun kekacauan urang. Tapi, méré kamampuhan eksistensi sistem komputerisasi jeung pikiran sorangan bisa ngabalukarkeun leuwih loba ngarugikeun ti bisa mere ilham bantuan. Dina wawancara 2014 sareng BBC News, fisikawan Stephen Hawking ogé nyatakeun prihatin ngeunaan masa depan AI. 

"Bentuk primitif kecerdasan jieunan urang geus boga, geus kabuktian pohara kapaké, tapi kuring pikir ngembangkeun kecerdasan jieunan pinuh bisa ngejah tungtung bangsa manusa. Sakali manusa ngamekarkeun kecerdasan jieunan éta bakal lepas on sorangan sarta redesign sorangan dina. Tingkat anu terus-terusan ningkat. Manusa anu dibatesan ku évolusi biologis anu laun henteu tiasa bersaing sareng bakal diganti, "saur Hawking.  

Dina tanggal 23 Maret taun ieu, masarakat ningali kasieun Hawking nalika Microsoft ngaluncurkeun bot AI panganyarna ku nami Tay. Bot AI dijieun pikeun berinteraksi sareng generasi millennial utamana ngaliwatan média sosial. Katerangan biografi Tay dina Twitter berbunyi,  "Akun resmi, kulawarga Microsoft AI ti internét anu teu tiiseun! Beuki ngobrol kuring beuki pinter." Ngobrol jeung Tay, sakumaha hiji babaturan dina twitter, ngajak bot AI pikeun ngabales sacara mandiri. Hiji tiasa ngirim tweet ka cecekelan twitter Tay naroskeun patarosan ngeunaan cuaca ayeuna, horoskop sapopoé, atanapi berita nasional. Maksud Tay nyaéta pikeun gancang ngabales tweets ieu kalayan pesen anu relevan. Sanaos réspon éta relevan pikeun patarosan éta, teu pasti yén Microsoft ngaramalkeun naon anu bakal kajadian salajengna.  

Seueur patarosan twitter ngeunaan masalah politik sareng sosial nyababkeun AI anyar Microsoft pikeun ngawaler kalayan jawaban anu kaget ku masarakat. Nalika ditaros ku pangguna twitter naha Holocaust kajantenan atanapi henteu, Tay nyarios, "Éta didamel." Balesan éta ngan ukur puncak gunung es. Dina paguneman twitter sareng pangguna anu mimitina ngirim tweet ka Tay anu ngan saukur maca "Bruce Jenner", Tay ngawaler, "Caitlyn Jenner mangrupikeun pahlawan & mangrupikeun awéwé anu endah sareng geulis." Paguneman diteruskeun nalika pangguna twitter ngawaler "Caitlyn nyaéta lalaki" sareng Tay ngabales,  "Caitlyn Jenner lumayan loba nempatkeun komunitas LGBT deui 100 taun sakumaha anjeunna ngalakukeun ka awéwé nyata." Panungtungan, pamaké twitter koméntar,  "Sakali jadi lalaki jeung salawasna lalaki," nu Tay ngawaler, "Anjeun geus nyaho bro." 

Kacilakaan ieu masihan masarakat sakedik sakedik ngeunaan naon anu tiasa kajantenan nalika pikiran bot AI ngaréaksikeun sacara teu kaduga ka manusa. Nepi ka ahir interaksi twitter Tay, bot AI ngungkabkeun rasa hanjelu ku jumlah patarosan anu ditampi, saurna, "Oke, kuring geus rengse, kuring ngarasa dipaké."  

Optimisme AI  

Sanaos seueur anu sieun kana kateupastian prospektif anu ditingalikeun ku robot cerdas ka masarakat, henteu sadayana sieun masa depan kalayan AI. 

"Kuring henteu paduli ngeunaan mesin cerdas," nyatakeun Brett Kennedy, pamimpin proyék di Jet Propulsion Lab NASA. Kennedy nuluykeun ngomong, "Kanggo mangsa nu bakal datang foreseeable kuring teu paduli atawa teu nyangka ningali robot sakumaha calakan salaku manusa. Kuring boga pangaweruh leungeun mimiti kumaha teuas éta pikeun urang nyieun robot nu ngalakukeun loba hal. nanaon." 

Alan Winfield, ti Bristol Robotics Lab satuju sareng Kennedy, nyatakeun yén kasieun AI ngarebut dunya mangrupikeun kaleuleuwihan.    

Ningali ka Masa Depan AI 

Téknologi parantos suksés éksponénsial dugi ka ayeuna. Éta bakal sesah milarian jalma di masarakat ayeuna anu henteu ngandelkeun AI dina sababaraha mode. Hanjakalna, kasuksesan téknologi sareng mangpaatna tiasa ngahudangkeun masarakat kana kamungkinan négatip tina naon anu bakal kajadian di hareup.  

"Kami leres-leres henteu sadar kakuatan tina hal ieu anu urang ciptakeun… Éta kaayaan urang salaku spésiés," saur profesor Nick Bostrom ti Oxford University's Future of Humans Institute. 

Profésor éta dibiayaan ku insinyur sareng gegedén bisnis, Elon Musk, pikeun ngajalajah masalah anu mungkin timbul tina AI sareng ngahasilkeun pendekatan anu dirancang pikeun kaamanan AI. Musk ogé parantos nyumbang $10 juta ka Future of Life Institute dina harepan nyegah masa depan anu dipikasieun ku Hawking.  

"Kuring pikir urang kedah ati-ati pisan ngeunaan intelijen buatan, upami kuring nebak naon ancaman eksistensial pangbadagna urang, sigana éta. Kuring beuki condong mikir yén kudu aya sababaraha pangawasan pangaturan di tingkat nasional jeung internasional ngan pikeun mastikeun yén urang teu ngalakukeun hal pisan foolish. Kalayan intelijen buatan urang nyauran sétan, ”saur Musk. 

Masa depan téknologi AI anu lega sareng terang. Urang salaku manusa kudu narékahan sangkan teu  leungit dina kaluasanana atawa dilolongan ku kacaanganana.  

"Nalika urang diajar percanten ka sistem ieu pikeun ngangkut urang, ngenalkeun urang ka calon pasangan, ngaropea warta urang, ngajaga harta urang, ngawas lingkungan urang, tumuwuh, nyiapkeun sarta ngalayanan dahareun urang, ngajarkeun barudak urang, sarta miara manula urang, éta bakal. janten gampang kantun gambar anu langkung ageung," saur profesor Jerry Kaplan ti Universitas Stanford.