lari kuantum

KREDIT GAMBAR: lari kuantum

Akankah manusia hidup damai di masa depan yang didominasi oleh kecerdasan buatan? - Masa depan kecerdasan buatan P6

David Tal, Penerbit, Futuris
@DavidTalWrites
LinkedIn

Sel, 09 / 15 / 2020 - 13: 10

Ketika berbicara tentang kemanusiaan, katakan saja kita tidak memiliki rekam jejak terbaik dalam hal hidup bersama dengan 'yang lain.' Baik itu genosida orang Yahudi di Jerman atau Tutsi di Rwanda, perbudakan orang Afrika oleh negara-negara Barat atau budak kontrak Asia Tenggara sekarang bekerja di negara-negara Teluk Timur Tengah, atau bahkan penganiayaan saat ini yang dialami oleh orang-orang Meksiko di AS atau pengungsi Suriah di negara-negara Uni Eropa tertentu. Secara keseluruhan, ketakutan naluriah kita terhadap mereka yang kita anggap berbeda dari kita dapat mengarahkan kita untuk mengambil tindakan yang mengendalikan atau (dalam kasus ekstrim) menghancurkan mereka yang kita takuti.

Bisakah kita mengharapkan sesuatu yang berbeda ketika kecerdasan buatan menjadi benar-benar seperti manusia?

Akankah kita hidup di masa depan di mana kita hidup berdampingan dengan makhluk AI-robot independen, seperti yang terlihat dalam kisah Star Wars, atau akankah kita menganiaya dan memperbudak makhluk AI seperti yang digambarkan dalam franchise Bladerunner? (Jika Anda belum melihat salah satu dari budaya pop ini, tunggu apa lagi?)

Ini adalah pertanyaan-pertanyaan bab penutup dari Masa Depan Kecerdasan Buatan seri berharap untuk menjawab. Itu penting karena jika perkiraan yang dibuat oleh para peneliti AI terkemuka benar, maka pada pertengahan abad ini, kita manusia akan berbagi dunia kita dengan banyak makhluk AI yang beragam—jadi sebaiknya kita mencari cara untuk hidup berdampingan dengan mereka secara damai.

Bisakah manusia bersaing dengan kecerdasan buatan?

Percaya atau tidak, kita bisa.

Rata-rata manusia (tahun 2018) sudah lebih unggul bahkan dari AI tercanggih sekalipun. Seperti yang diuraikan dalam kami bab pembuka, kecerdasan sempit buatan (ANI) saat ini jauh lebih baik daripada manusia di tertentu tugas mereka dirancang untuk, tetapi putus asa ketika diminta untuk mengambil tugas di luar desain itu. Manusia, di sisi lain, bersama dengan sebagian besar hewan lain di planet ini, unggul dalam kemampuan beradaptasi kita untuk mengejar tujuan di berbagai lingkungan—a definisi kecerdasan yang dianjurkan oleh ilmuwan komputer Marcus Hutter dan Shane Legg.

Sifat adaptasi universal ini tampaknya tidak menjadi masalah besar, tetapi menuntut kemampuan untuk menilai hambatan untuk mencapai tujuan, merencanakan eksperimen untuk mengatasi hambatan itu, mengambil tindakan untuk melaksanakan eksperimen, belajar dari hasilnya, lalu melanjutkan. untuk mengejar tujuan. Semua kehidupan di planet ini secara naluriah menjalankan loop kemampuan beradaptasi ini ribuan hingga jutaan kali setiap hari, dan sampai AI dapat belajar melakukan hal yang sama, mereka akan tetap menjadi alat kerja yang tidak bernyawa.

Tapi saya tahu apa yang Anda pikirkan: Seluruh rangkaian prakiraan kecerdasan buatan di masa depan ini yang memberikan waktu yang cukup, entitas AI pada akhirnya akan menjadi sama pintarnya dengan manusia, dan tak lama setelah itu, jauh lebih pintar daripada manusia.

Bab ini tidak akan membantah kemungkinan itu.

Tetapi jebakan yang membuat banyak komentator berpikir bahwa karena evolusi membutuhkan waktu jutaan tahun untuk menghasilkan otak biologis, itu akan menjadi tak tertandingi setelah AI mencapai titik di mana mereka dapat meningkatkan perangkat keras dan perangkat lunak mereka sendiri dalam siklus sesingkat tahun, bulan. , bahkan mungkin berhari-hari.

Untungnya, evolusi memiliki beberapa perjuangan tersisa di dalamnya, sebagian berkat kemajuan terbaru dalam rekayasa genetika.

Pertama kali dibahas dalam seri kami di masa depan evolusi manusia, para ahli genetika telah mengidentifikasi 69 gen terpisah yang memengaruhi kecerdasan, tetapi bersama-sama mereka hanya memengaruhi IQ kurang dari delapan persen. Ini berarti mungkin ada ratusan, atau ribuan, gen yang memengaruhi kecerdasan, dan kita tidak hanya harus menemukan semuanya, tetapi juga belajar bagaimana memanipulasi semuanya secara bersama-sama sebelum kita bahkan dapat mempertimbangkan untuk merusak janin' DNA.

Tetapi pada pertengahan tahun 2040-an, bidang genomik akan matang ke titik di mana genom janin dapat dipetakan secara menyeluruh, dan pengeditan DNA-nya dapat disimulasikan komputer untuk secara akurat memprediksi bagaimana perubahan pada genomnya akan berdampak pada fisik, emosionalnya di masa depan. , dan yang paling penting untuk diskusi ini, atribut kecerdasannya.

Dengan kata lain, pada pertengahan abad, sekitar ketika sebagian besar peneliti AI percaya AI akan mencapai dan mungkin melampaui kecerdasan tingkat manusia, kita akan mendapatkan kemampuan untuk memodifikasi secara genetik seluruh generasi bayi manusia menjadi lebih pintar secara signifikan daripada generasi sebelumnya. mereka.

Kami sedang menuju masa depan di mana manusia super cerdas akan hidup bersama AI super cerdas.

Dampak dunia yang dipenuhi manusia super cerdas

Jadi, seberapa pintar yang kita bicarakan di sini? Untuk konteksnya, IQ Albert Einstein dan Stephen Hawking mendapat skor sekitar 160. Begitu kita membuka rahasia di balik penanda genomik yang mengontrol kecerdasan, kita berpotensi melihat manusia lahir dengan IQ melebihi 1,000.

Ini penting karena pikiran seperti Einstein dan Hawking membantu memicu terobosan ilmiah yang sekarang melapisi landasan dunia modern kita. Misalnya, hanya sebagian kecil dari populasi dunia yang memahami apa pun tentang fisika, tetapi persentase yang signifikan dari PDB dunia bergantung pada temuannya—teknologi seperti telepon pintar, sistem telekomunikasi modern (Internet), dan GPS tidak dapat eksis tanpa mekanika kuantum. .

Mengingat dampak ini, kemajuan macam apa yang bisa dialami umat manusia jika kita melahirkan seluruh generasi jenius? Ratusan juta Einstein?

Jawabannya tidak mungkin ditebak karena dunia belum pernah melihat konsentrasi jenius super seperti itu.

Akan seperti apa orang-orang ini?

Untuk rasa, pertimbangkan saja kasus manusia yang tercatat paling cerdas, William James Sidis (1898-1944), yang memiliki IQ sekitar 250. Dia bisa membaca pada usia dua tahun. Dia berbicara delapan bahasa pada usia enam tahun. Dia diterima di Universitas Harvard pada usia 11 tahun. Dan Sidis hanya seperempat secerdas apa yang menurut teori biologi manusia suatu hari nanti bisa menjadi dengan penyuntingan genetik.

(Catatan tambahan: kita hanya berbicara tentang kecerdasan di sini, kita bahkan tidak menyentuh pengeditan genetik yang dapat membuat kita menjadi manusia super secara fisik. Baca lebih lanjut di sini.)

Faktanya, sangat mungkin manusia dan AI dapat berevolusi bersama dengan menciptakan semacam loop umpan balik positif, di mana AI tingkat lanjut membantu ahli genetika menguasai genom manusia untuk menciptakan manusia yang semakin pintar, manusia yang kemudian akan bekerja untuk menciptakan AI yang semakin pintar, dan seterusnya. pada. Jadi, ya, seperti yang diprediksi oleh peneliti AI, Bumi bisa mengalami ledakan kecerdasan pada pertengahan abad ini, tetapi berdasarkan diskusi kita sejauh ini, manusia (bukan hanya AI) akan mendapat manfaat dari revolusi itu.

Cyborg di antara kita

Kritik yang adil terhadap argumen tentang manusia super cerdas ini adalah bahwa bahkan jika kita menguasai penyuntingan genetik pada pertengahan abad, akan dibutuhkan 20 hingga 30 tahun lagi sebelum generasi baru manusia ini menjadi dewasa ke titik di mana mereka dapat memberikan kontribusi kemajuan yang signifikan bagi kita. masyarakat dan bahkan keluar lapangan bermain intelektual bersama AI. Bukankah kelambatan ini memberi AI awal yang signifikan terhadap kemanusiaan jika mereka memutuskan untuk menjadi 'jahat'?

Inilah sebabnya, sebagai jembatan antara manusia hari ini dan manusia super masa depan, mulai tahun 2030-an, kita akan melihat awal dari kelas manusia baru: cyborg, hibrida manusia dan mesin.

(Agar adil, tergantung pada bagaimana Anda mendefinisikan cyborg, mereka secara teknis sudah ada—khususnya, orang dengan kaki palsu akibat luka perang, kecelakaan, atau cacat genetik saat lahir. Tetapi untuk tetap fokus pada konteks bab ini, kami 'll fokus pada prosthetics dimaksudkan untuk menambah pikiran dan kecerdasan kita.)

Pertama dibahas di kami Masa Depan Komputer seri, para peneliti sedang mengembangkan bidang bioelektronik yang disebut Brain-Computer Interface (BCI). Ini melibatkan penggunaan perangkat pemindai otak atau implan untuk memantau gelombang otak Anda, mengubahnya menjadi kode, dan kemudian mengaitkannya dengan perintah untuk mengontrol apa pun yang dijalankan oleh komputer.

Kami masih di hari-hari awal, tetapi dengan menggunakan BCI, diamputasi sekarang menguji anggota badan robot dikendalikan langsung oleh pikiran mereka, bukan melalui sensor yang melekat pada tunggul mereka. Demikian juga, penyandang disabilitas berat (seperti penyandang quadriplegia) sekarang menggunakan BCI untuk mengarahkan kursi roda bermotor mereka dan memanipulasi lengan robot. Tetapi membantu orang yang diamputasi dan penyandang disabilitas menjalani kehidupan yang lebih mandiri bukanlah kemampuan BCI.

Apa yang di tahun 2030-an akan terlihat seperti helm atau ikat rambut pada akhirnya akan memberi jalan bagi implan otak (akhir tahun 2040-an) yang akan menghubungkan pikiran kita dengan awan digital (Internet). Pada akhirnya, prostesis otak ini akan bertindak sebagai belahan otak ketiga untuk pikiran kita—jadi sementara belahan kiri dan kanan kita mengelola kemampuan kreativitas dan logika kita, belahan digital baru yang diberi makan awan ini akan memfasilitasi akses informasi yang hampir instan dan meningkatkan kognitif. atribut di mana manusia sering gagal dari rekan-rekan AI mereka, yaitu kecepatan, pengulangan, dan akurasi.

Dan sementara implan otak ini tidak serta merta meningkatkan kecerdasan kita, mereka akan membuat kita jauh lebih mampu dan mandiri, seperti yang dilakukan smartphone kita saat ini.

Masa depan yang penuh dengan beragam kecerdasan

Semua pembicaraan tentang AI, cyborg, dan manusia super cerdas membuka poin lain untuk dipertimbangkan: Masa depan akan melihat keragaman kecerdasan yang jauh lebih kaya daripada yang pernah kita lihat dalam sejarah manusia atau bahkan Bumi.

Pikirkan tentang hal ini, sebelum akhir abad ini, kita berbicara tentang dunia masa depan yang penuh dengan:

Kecerdasan serangga
Kecerdasan hewan
Kecerdasan manusia
Kecerdasan manusia yang ditingkatkan secara sibernetik
Kecerdasan umum buatan (AGI)
Kecerdasan super buatan (Dengan adanya)
Kecerdasan super manusia
Kecerdasan super manusia yang ditingkatkan secara cyber
Pikiran hibrida manusia-AI virtual
Beberapa lagi kategori di antara yang kami dorong pembaca untuk bertukar pikiran dan berbagi di bagian komentar.

Dengan kata lain, dunia kita sudah menjadi rumah bagi beragam spesies, masing-masing dengan jenis kecerdasan unik mereka sendiri, tetapi masa depan akan melihat keragaman kecerdasan yang lebih besar, kali ini memperluas ujung tangga kognitif yang lebih tinggi. Jadi, sama seperti generasi saat ini sedang belajar untuk berbagi dunia kita dengan serangga dan hewan yang berkontribusi pada ekosistem kita, generasi mendatang harus belajar bagaimana berkomunikasi dan berkolaborasi dengan beragam kecerdasan yang hampir tidak dapat kita bayangkan hari ini.

Tentu saja, sejarah memberi tahu kita bahwa 'berbagi' tidak pernah cocok untuk manusia. Ratusan hingga ribuan spesies telah punah karena ekspansi manusia, hanya ratusan peradaban yang kurang maju telah menghilang di bawah penaklukan kerajaan yang meluas.

Tragedi ini disebabkan oleh kebutuhan manusia akan sumber daya (makanan, air, bahan mentah, dll.) dan sebagian, karena ketakutan dan ketidakpercayaan antara peradaban atau bangsa asing. Dengan kata lain, tragedi masa lalu dan masa kini disebabkan oleh alasan-alasan setua peradaban itu sendiri, dan mereka hanya akan memburuk dengan diperkenalkannya semua kelas kecerdasan baru ini.

Dampak budaya dari dunia yang penuh dengan beragam kecerdasan

Keheranan dan ketakutan adalah dua emosi yang paling tepat merangkum emosi yang saling bertentangan yang akan dialami orang begitu semua jenis kecerdasan baru ini memasuki dunia.

'Mengherankan' pada kecerdikan manusia yang digunakan untuk menciptakan semua kecerdasan manusia dan AI baru ini, dan kemungkinan yang mungkin mereka ciptakan. Dan kemudian 'ketakutan' dari kurangnya pemahaman dan keakraban generasi manusia saat ini dengan generasi mendatang dari makhluk yang 'ditingkatkan' ini.

Jadi, sama seperti dunia hewan sepenuhnya di luar pemahaman serangga rata-rata, dan dunia manusia sepenuhnya di luar pemahaman hewan rata-rata, dunia AI dan bahkan manusia super cerdas akan jauh di luar jangkauan apa yang ada saat ini. rata-rata manusia akan bisa mengerti.

Dan meskipun generasi mendatang akan dapat berkomunikasi dengan kecerdasan baru yang lebih tinggi ini, kita tidak akan memiliki banyak kesamaan. Dalam bab yang memperkenalkan AGI dan ASI, kami menjelaskan mengapa mencoba memikirkan kecerdasan AI seperti kecerdasan manusia adalah sebuah kesalahan.

Secara singkat, emosi naluriah yang mendorong pemikiran manusia adalah warisan biologis evolusioner dari beberapa milenium generasi manusia yang secara aktif mencari sumber daya, pasangan kawin, ikatan sosial, kelangsungan hidup, dll. AI di masa depan tidak akan memiliki beban evolusioner itu. Sebaliknya, kecerdasan digital ini akan memiliki tujuan, cara berpikir, sistem nilai yang sepenuhnya unik untuk diri mereka sendiri.

Demikian juga, sama seperti manusia modern telah belajar untuk menekan aspek keinginan alami manusia berkat kecerdasan kita (misalnya kita membatasi pasangan seksual kita ketika dalam hubungan berkomitmen; kita mempertaruhkan hidup kita untuk orang asing karena konsep imajiner kehormatan dan kebajikan, dll.) , manusia super masa depan dapat mengatasi naluri utama ini sepenuhnya. Jika ini memungkinkan, maka kita benar-benar berhadapan dengan alien, bukan hanya manusia kelas baru.

Akankah ada kedamaian antara ras super masa depan dan kita semua?

Kedamaian datang dari kepercayaan dan kepercayaan datang dari keakraban dan tujuan bersama. Kita dapat mengambil keakraban dari meja karena kita telah membahas bagaimana manusia yang tidak ditingkatkan memiliki sedikit kesamaan, secara kognitif, dengan kecerdasan super ini.

Dalam satu skenario, ledakan kecerdasan ini akan mewakili munculnya bentuk ketidaksetaraan yang sama sekali baru, yang menciptakan kelas sosial berbasis kecerdasan yang hampir mustahil bagi mereka yang berasal dari kelas bawah untuk bangkit. Dan seperti halnya kesenjangan ekonomi yang semakin lebar antara si kaya dan si miskin yang menyebabkan keresahan saat ini, jurang pemisah antara kelas/populasi kecerdasan yang berbeda dapat menimbulkan cukup banyak ketakutan dan kebencian yang kemudian dapat berkembang menjadi berbagai bentuk penganiayaan atau perang habis-habisan. Untuk sesama pembaca buku komik di luar sana, ini mungkin mengingatkan Anda tentang latar belakang penganiayaan klasik dari franchise X-men Marvel.

Skenario alternatifnya adalah bahwa intelek super masa depan ini hanya akan mencari cara untuk memanipulasi massa yang lebih sederhana secara emosional agar menerima mereka ke dalam masyarakat mereka—atau setidaknya ke titik yang menghindari semua kekerasan.

Jadi, skenario mana yang akan menang?

Kemungkinan besar, kita akan melihat sesuatu bermain di tengah. Pada permulaan revolusi intelijen ini, kita akan melihat yang biasa 'teknopanik,' pakar hukum dan kebijakan teknologi itu, Adam Thierer, menjelaskan sebagai berikut pola sosial yang biasa:

Perbedaan generasi yang menyebabkan ketakutan akan hal baru, terutama yang mengganggu adat istiadat sosial atau menghilangkan pekerjaan (baca tentang dampak AI di Masa Depan Pekerjaan seri);
"Hypernostalgia" untuk masa lalu yang indah yang, pada kenyataannya, tidak pernah sebaik itu;
Insentif bagi reporter dan pakar untuk menyebarkan ketakutan tentang teknologi dan tren baru sebagai imbalan atas klik, tampilan, dan penjualan iklan;
Kepentingan khusus saling menyikut untuk uang atau tindakan pemerintah tergantung pada bagaimana kelompok mereka dipengaruhi oleh teknologi baru ini;
Sikap elitis dari kritik akademis dan budaya yang takut akan teknologi baru yang diadopsi oleh masyarakat umum;
Orang-orang memproyeksikan debat moral dan budaya kemarin dan hari ini ke teknologi baru masa depan.

Tapi seperti kemajuan baru, orang akan terbiasa. Lebih penting lagi, sementara dua spesies mungkin tidak berpikir sama, perdamaian dapat ditemukan melalui kepentingan atau tujuan bersama.

Misalnya, AI baru ini dapat menciptakan teknologi dan sistem baru untuk meningkatkan kehidupan kita. Dan sebagai imbalannya, pendanaan dan dukungan pemerintah akan terus memajukan kepentingan AI secara keseluruhan, terutama berkat persaingan aktif antara program AI China dan AS.

Demikian juga, dalam hal menciptakan manusia super, faksi-faksi agama di banyak negara akan menolak kecenderungan untuk mengutak-atik bayi mereka secara genetik. Namun, kepraktisan dan kepentingan nasional secara bertahap akan meruntuhkan penghalang ini. Untuk yang pertama, orang tua akan tergoda untuk menggunakan teknologi pengeditan genetik untuk memastikan anak-anak mereka dilahirkan bebas penyakit dan cacat, tetapi tujuan awal itu adalah lereng licin menuju peningkatan genetik yang lebih invasif. Demikian juga, jika China mulai meningkatkan secara genetik seluruh generasi populasi mereka, AS akan memiliki keharusan strategis untuk mengikutinya atau berisiko tertinggal secara permanen dua dekade kemudian—dan begitu juga seluruh dunia.

Sekuat keseluruhan bab ini, kita perlu ingat bahwa ini semua akan menjadi proses bertahap. Itu akan membuat dunia kita sangat berbeda dan sangat aneh. Tapi kita akan terbiasa, dan itu akan menjadi masa depan kita.