Policing alam maya - masa depan merangan AI nyimpang

Jaman intelijen jieunan sareng poténsi poténsial naék kana peradaban dina tingkat anu ngareureuwas. Téknologi sok dipikanyaho tumbuh sacara éksponénsial, sareng alam téknologi AI henteu béda. Kalawan tumuwuh kaleuleuwihan, asalna daptar pondok tina masalah anu sakitu legana shrouded di misteri. Sanggeus henteu kantos ngusahakeun ieu tebih kana infusing sentience kana constructs non-manusa, urang ngajalankeun kana leuwih "kumaha lamun" ti isu beton. AI anu nyimpang sareng jahat anu urang kaleungitan kendali janten payuneun dina hal ieu kalayan poténsi pikeun ngalaksanakeun kontrol otoriter tina infrastruktur manusa boh dina tingkat mikro sareng makro. 

Panalitian anu ngungkulan résiko poténsial AI jahat masih kénéh aya dina orokna, sareng henteu saé pisan dugi ka ayeuna dina siklus hirupna. Rékayasa sabalikna tina program AI anu nyimpang sigana janten calon anu langkung saé pikeun ngartos kumaha cara nungkulan insiden terasing, tapi ogé henteu sadayana ngalingkup poténsi acara eksistensial skala ageung. Gagasan sistem AI nyusul programna sareng ngarobih peran anu ditujukeun pasti bakal janten masalah sosial, ékonomi sareng politik di hareup, sareng masalah konci pikeun rata-rata joe sareng élmuwan alam maya sami. 

Baheula, ayeuna sareng masa depan AI 

Widang Kecerdasan Buatan diadegkeun dina 1965 dina konperénsi Dartmouth College. Sababaraha pikiran anu paling terang ngahiji dina dinten ieu kalayan pikagumbiraeun ngeunaan kemungkinan anu tiasa didamel ku program ieu sareng efisiensi ngarengsekeun masalah infrastruktur AI ka hareup. Sanaos dana pamaréntah di lapangan parantos seueur sareng mareuman, akhir taun 90an ningali aplikasi téknologi AI anu langkung praktis nalika Deep Blue IBM janten komputer munggaran anu ngéléhkeun grandmaster catur. Ieu muka banjir pikeun AI dina budaya pop sareng penampilan dina acara kuis, sapertos Jeopardy, nunjukkeun kakuatan aplikasi AI mainstream.  

Dinten ayeuna urang ningali aplikasi AI dina ampir unggal widang sareng aspék kahirupan urang. Tina program dumasar algoritma anu berinteraksi sareng kami sareng pasar barang-barang konsumen dumasar kana kapentingan sareng karesep urang anu sanés, dugi ka mesin pencitraan médis anu nyerep inpormasi anu ekstrim pikeun mendakan pola pikeun ngabantosan langkung saé pikeun ngubaran pasien, panggunaan téknologi ieu sakitu legana dina lingkupna. . Dina mangsa nu bakal datang, téhnologi AI bisa terpadu kana pisan sél awak urang. Téknologi Kecerdasan Buatan sareng biologi manusa tiasa ngahubungkeun jurang sareng tiasa dianggo salaku unit kohésif dina nami efisiensi sareng révolusi ayana manusa. Elon Musk of Tesla malah nyatakeun yén "langkung-langkung waktos sigana urang bakal ningali ngahijikeun intelijen biologis sareng intelijen digital" sareng yén kombinasi ieu "kalobaannana ngeunaan rubakpita, laju sambungan antara uteuk anjeun sareng vérsi digital. sorangan, utamana kaluaran". Upami ieu mangrupikeun masa depan AI, naha urang tiasa leres-leres henteu ngawaskeun panyimpangan tina program AI ayeuna, sumawona anu langkung maju ka hareup? 

Jalan ka panyimpangan 

Kami parantos ningali conto terasing tina AI ngalanggar program anu dimaksud. Ngan taun ka tukang sistem DeepMind AI Google (kalobaannana dipikawanoh pikeun ngéléhkeun jawara kaulinan dewan kompléks jeung flawlessly niru sora rupa-rupa manusa) jadi kacida agrésif nalika nyanghareupan potensi kaleungitan kaulinan komputer ngumpulkeun buah nu dua program saling bersaing. pikeun ngumpulkeun saloba apel maya sabab bisa. Program éta mandiri dugi ka apel mimiti janten langkung langka. Kakurangan apel virtual ieu nyababkeun program ngagunakeun strategi "kacida agrésif" pikeun ngaoptimalkeun program anu sanés. Sanajan program ieu dirancang pikeun ngalaksanakeun tugas husus bari keur adaptable, agresi dina métode nya éta troubling. 

Medan perang alam maya 

Kumaha carana urang buka ngeunaan policing wewengkon anu sakitu legana alam non-fisik? Naon tapak suku anu tinggaleun upami kajahatan dilakukeun ku AI anu hirup, sareng dina naon rasa urang gaduh kamampuan moral pikeun ngaaniaya AI atanapi panyipta na? Ieu mangrupikeun patarosan anu aya dina pikiran sakedik sareng jauh antara profésional kaamanan cyber. Kalayan ngan 10,000 peneliti anu damel di AI di sakumna dunya, ngan 10 per cent di antarana anu versed dina alamat naon anu bakal kajadian lamun salah sahiji sistem ieu gagal atawa jadi parasit di alam na malah kirang versed dina moral jeung etika eta. Sanaos ieu sigana pikasieuneun, padamelan anu dilaksanakeun pikeun ngartos hubungan ieu kamajuan. Prosésna saderhana sapertos nyiptakeun program jahat ti mimiti sareng nganggo program ieu salaku landasan pikeun ngartos kumaha program sanés tiasa nyimpang sareng nyababkeun masalah. Kalayan léngkah-léngkah ieu dilaksanakeun, éta bakal ngakibatkeun pendekatan anu langkung kognitif pikeun ngembangkeun infrastruktur AI urang supados wabah malevolency henteu kajantenan, ogé ngartos kumaha nyusup sareng ngajempékeun AI anu parantos disenjata ku usaha manusa anu nyimpang. 

Cara séjén para profesional cybersecurity diajar nungkulan program AI nyaéta ngaliwatan mékanisme screening na. Konsensus nunjukkeun yén AI dirancang kalayan niat jahat nyababkeun résiko anu paling ageung, anu mangrupikeun warta anu saé upami éta sanés évolusi langsung tina program éta sorangan. Ieu brings pencegahan kana pendekatan leuwih manusa centric di nu penjahat kudu sourced na starved sumberdaya pikeun kantos initiate program kalawan potensi boga épék dahsyat, atawa boga muatan kalawan niat nyieun program sapertos.  

Akhlak sareng etika ieu deui pisan énggal, sareng ngan sakitar belasan individu anu kalibet dina panalungtikan AI malah parantos mimiti nyetél standar pikeun ieu. Bakal mekar nalika pamahaman urang tumuwuh.