Yapay zekaların hakim olduğu bir gelecekte insanlar barış içinde yaşayacak mı? - Yapay zekanın geleceği P6

Konu insanlık olduğunda, 'öteki' ile birlikte yaşama konusunda en iyi geçmişe sahip olmadığımızı söyleyelim. İster Almanya'daki Yahudilerin soykırımı, ister Ruanda'daki Tutsilerin soykırımı, ister Afrikalıların Batılı ülkeler tarafından köleleştirilmesi, ister Güneydoğu Asyalı sözleşmeli köleler olsun. şimdi Orta Doğu Körfez ülkelerinde çalışmak, hatta ABD'deki Meksikalıların veya belirli AB ülkelerindeki Suriyeli mültecilerin yaşadığı mevcut zulüm. Genel olarak, bizden farklı olarak algıladığımız kişilere karşı içgüdüsel korkumuz, korkularımızı kontrol eden veya (aşırı durumlarda) yok eden eylemlerde bulunmamıza neden olabilir.

Yapay zeka gerçekten insana benzer hale geldiğinde farklı bir şey bekleyebilir miyiz?

Star Wars destanında görüldüğü gibi bağımsız yapay zeka robotlu varlıklarla bir arada var olacağımız bir gelecekte mi yaşayacağız, yoksa bunun yerine Bladerunner serisinde tasvir edildiği gibi yapay zeka varlıklarına zulmedecek ve onları köleleştirecek miyiz? (Bu pop kültürü zımbalarından hiçbirini görmediyseniz, ne bekliyorsunuz?)

Bunlar, çalışmanın bu kapanış bölümündeki sorulardır. Yapay Zekanın Geleceği seri cevap vermeyi umuyor. Önemli çünkü önde gelen AI araştırmacıları tarafından yapılan tahminler doğruysa, o zaman yüzyılın ortalarında, biz insanlar dünyamızı çok çeşitli AI varlıklarıyla paylaşıyor olacağız - bu yüzden onlarla birlikte barış içinde yaşamanın bir yolunu bulsak iyi olur.

İnsanlar yapay zekalarla rekabet edebilir mi?

İster inan ister inanma, yapabiliriz.

Ortalama bir insan (2018'de), en gelişmiş AI'dan bile daha üstündür. Bizim ana hatlarıyla belirtildiği gibi açılış bölümü, günümüzün yapay dar zekaları (ANI'ler) insanlardan çok daha iyidir. özel görevler için tasarlandılar, ancak bu tasarımın dışında bir görevi üstlenmeleri istendiğinde umutsuzlardı. Öte yandan insanlar, gezegendeki diğer birçok hayvanla birlikte, çok çeşitli ortamlarda hedeflere ulaşmak için uyarlanabilirliğimizde üstündür. tanım bilgisayar bilimcileri Marcus Hutter ve Shane Legg tarafından savunulan istihbarat.

Evrensel uyarlanabilirliğin bu özelliği çok büyük bir şey gibi görünmüyor, ancak bir hedefe giden engeli değerlendirme, bu engelin üstesinden gelmek için bir deney planlama, deneyi yürütmek için bir eylemde bulunma, sonuçlardan öğrenme ve sonra devam etme becerisini gerektirir. hedefin peşinden gitmek. Gezegendeki tüm yaşam, bu uyarlanabilirlik döngüsünü her gün binlerce ila milyonlarca kez içgüdüsel olarak yürütür ve AI aynı şeyi yapmayı öğrenene kadar cansız iş araçları olarak kalacaktır.

Ama ne düşündüğünüzü biliyorum: Yapay zekanın geleceğiyle ilgili tüm bu seri, yeterli zaman verildiğinde, AI varlıklarının sonunda insanlar kadar ve bundan kısa bir süre sonra insanlardan çok daha akıllı hale geleceğini tahmin ediyor.

Bu bölüm bu olasılığı tartışmayacak.

Ancak pek çok yorumcunun düştüğü tuzak, evrimin biyolojik beyinler üretmesi milyonlarca yıl sürdüğü için, yapay zekalar yıllar, aylar gibi kısa döngüler içinde kendi donanım ve yazılımlarını geliştirebilecekleri bir noktaya ulaştığında umutsuzca geride kalacağını düşünüyor. , hatta belki günler.

Neyse ki, kısmen genetik mühendisliğindeki son gelişmeler sayesinde, evrimin içinde biraz mücadele kaldı.

İlk olarak serimizde kapsanan insan evriminin geleceğigenetikçiler belirledi 69 ayrı gen bunlar zekayı etkiler, ancak birlikte IQ'yu yalnızca yüzde sekizden daha az etkiler. Bu, zekayı etkileyen yüzlerce veya binlerce gen olabileceği anlamına geliyor ve sadece hepsini keşfetmemiz değil, aynı zamanda bir fetüsü kurcalamayı bile düşünmeden önce hepsini birlikte tahmin edilebilir bir şekilde nasıl manipüle edeceğimizi öğrenmemiz gerekecek. DNA. 

Ancak 2040'ların ortalarında, genomik alanı, bir fetüsün genomunun kapsamlı bir şekilde haritalanabileceği ve DNA'sındaki düzenlemelerin, genomunda yapılacak değişikliklerin gelecekteki fiziksel, duygusal, ve bu tartışma için en önemlisi, zeka özellikleri.

Başka bir deyişle, yüzyılın ortalarında, çoğu AI araştırmacısının AI'nın insan düzeyinde zekaya ulaşacağına ve muhtemelen onu geçeceğine inandığı zaman, tüm nesil insan bebeklerini, önceki nesillerden önemli ölçüde daha akıllı olacak şekilde genetik olarak değiştirme yeteneğini kazanacağız. onlara.

Süper zeki insanların süper zeki yapay zeka ile birlikte yaşayacağı bir geleceğe doğru gidiyoruz.

Süper zeki insanlarla dolu bir dünyanın etkisi

Peki, burada ne kadar akıllı konuşuyoruz? Bağlam olarak, Albert Einstein ve Stephen Hawking'in IQ'ları 160 civarında puan aldı. Zekayı kontrol eden genomik belirteçlerin arkasındaki sırları çözdüğümüzde, IQ'ları 1,000'i aşan insanları potansiyel olarak görebiliriz.

Bu önemlidir, çünkü Einstein ve Hawking gibi beyinler, modern dünyamızın temelini oluşturan bilimsel atılımların kıvılcımlanmasına yardımcı oldu. Örneğin, dünya nüfusunun sadece küçük bir kısmı fizik hakkında bir şey anlıyor, ancak dünya GSYİH'sının önemli bir yüzdesi bulgularına bağlı - akıllı telefon, modern telekomünikasyon sistemi (İnternet) ve GPS gibi teknolojiler kuantum mekaniği olmadan var olamaz. .

Bu etki göz önüne alındığında, tüm bir dahi neslini doğurmuş olsaydık, insanlık ne tür ilerlemeler yaşayabilirdi? Yüz milyonlarca Einstein mı?

Cevabı tahmin etmek imkansız, çünkü dünya hiç bu kadar süper dahiler görmedi.

Bu insanlar nasıl olacak?

Bir tat için, sadece kaydedilen en zeki insanın durumunu düşünün, William James Sidis (1898-1944), IQ'su 250 civarındaydı. İki yaşına kadar okuyabiliyordu. Altı yaşına kadar sekiz dil biliyordu. Harvard Üniversitesi'ne 11 yaşında kabul edildi ve Sidis, bir biyologun insanların bir gün genetik düzenleme ile kurabilecekleri teorinin sadece dörtte biri kadar akıllı.

(Dipnot: Burada sadece zekadan bahsediyoruz, bizi fiziksel olarak insanüstü yapabilecek genetik düzenlemeye değinmiyoruz bile. Daha fazla burada okuyun.)

Aslında, gelişmiş AI'nın genetikçilerin insan genomunda ustalaşmasına yardımcı olduğu ve giderek daha akıllı insanlar, daha sonra giderek daha akıllı AI oluşturmak için çalışacak insanlar ve böylece bir tür olumlu geri bildirim döngüsü oluşturarak insanlar ve AI'nın birlikte gelişmesi çok olasıdır. üzerinde. Yani evet, tıpkı AI araştırmacılarının tahmin ettiği gibi, Dünya yüzyılın ortalarında bir zeka patlaması yaşayabilir, ancak şu ana kadarki tartışmamıza dayanarak, insanlar (sadece AI değil) bu devrimden faydalanacak.

aramızdaki sayborglar

Süper zeki insanlar hakkındaki bu argümana yapılan adil bir eleştiri, yüzyılın ortasına kadar genetik düzenlemede ustalaşsak bile, bu yeni neslin, yaşamımıza önemli ilerlemelere katkıda bulunabilecekleri bir noktaya kadar olgunlaşmasının 20 ila 30 yıl daha alacağıdır. AI ile birlikte toplum ve hatta entelektüel oyun alanının dışında. Bu gecikme, yapay zekalara 'kötülüğe' dönmeye karar verirlerse insanlığa karşı önemli bir avantaj sağlamaz mı?

Bu nedenle, 2030'lardan başlayarak bugünün insanları ile yarının süper insanları arasında bir köprü olarak, yeni bir insan sınıfının başlangıcını göreceğiz: insan ve makinenin bir melezi olan siborg.

(Adil olmak gerekirse, siborgları nasıl tanımladığınıza bağlı olarak, teknik olarak zaten varlar - özellikle savaş yaraları, kazalar veya doğuştan gelen genetik kusurlar sonucu protez uzuvları olan insanlar. Ancak bu bölümün bağlamına odaklanmak için biz zihinlerimizi ve zekamızı güçlendirmeyi amaçlayan protezlere odaklanacağız.)

İlk tartıştığımız Bilgisayarların Geleceği serisi, araştırmacılar şu anda Beyin-Bilgisayar Arayüzü (BCI) adı verilen bir biyoelektronik alanı geliştiriyorlar. Beyin dalgalarınızı izlemek, onları koda dönüştürmek ve daha sonra bir bilgisayar tarafından çalıştırılan her şeyi kontrol etmek için komutlarla ilişkilendirmek için bir beyin tarama cihazı veya bir implant kullanmayı içerir.

Hâlâ ilk günlerdeyiz, ancak BCI kullanarak amputeler artık robotik uzuvları test etmek güdüklerine bağlı sensörler yerine doğrudan zihinleri tarafından kontrol edilir. Aynı şekilde, ağır engelli (kuadriplejili kişiler gibi) kişiler de artık motorlu tekerlekli sandalyelerini yönlendirmek için BCI kullanma ve robotik kolları manipüle edin. Ancak ampute ve engelli kişilere daha bağımsız bir yaşam sürmeleri için yardım etmek, BCI'ın yapabileceklerinin kapsamı dışındadır.

2030'larda kask veya saç bandı gibi görünecek olan şey, sonunda zihinlerimizi dijital buluta (İnternet) bağlayacak beyin implantlarına (2040'ların sonlarında) yol açacak. Sonunda, bu beyin protezi zihnimiz için üçüncü bir yarım küre görevi görecek - bu nedenle sol ve sağ yarım kürelerimiz yaratıcılığımızı ve mantık fakültelerimizi yönetirken, bu yeni, bulut beslemeli dijital yarım küre, bilgiye neredeyse anında erişimi kolaylaştıracak ve bilişsel becerileri geliştirecektir. İnsanların çoğu zaman AI meslektaşlarının gerisinde kaldığı özellikler, yani hız, tekrarlama ve doğruluk.

Ve bu beyin implantları zekamızı güçlendirmeyecek olsa da, tıpkı bugün akıllı telefonlarımızın yaptığı gibi bizi çok daha yetenekli ve bağımsız yapacaklar.

Çeşitli zekalarla dolu bir gelecek

AI'lar, siborglar ve süper zeki insanlar hakkındaki tüm bu konuşma, dikkate alınması gereken başka bir noktayı açıyor: Gelecek, insan ve hatta Dünya tarihinde gördüğümüzden çok daha zengin bir zeka çeşitliliği görecek.

Bir düşünün, bu yüzyılın sonundan önce, aşağıdakilerle dolu bir gelecek dünyasından bahsediyoruz:

• Böcek zekaları
• Hayvan zekaları
• insan zekası
• Sibernetik olarak geliştirilmiş insan zekası
• Yapay genel zekalar (YGG'ler)
• yapay süperzekalar (ASI'ler)
• İnsan süper zekaları
• Sibernetik olarak geliştirilmiş insan süper zekaları
• Sanal insan-AI hibrit zihinler
• Okuyucuları beyin fırtınası yapmaya ve yorum bölümünde paylaşmaya teşvik ettiğimiz birkaç ara kategori daha.

Başka bir deyişle, dünyamız zaten her biri kendine özgü zeka türlerine sahip çok çeşitli türlere ev sahipliği yapıyor, ancak gelecek, bu sefer bilişsel merdivenin üst ucunu genişleterek daha da fazla zeka çeşitliliği görecek. Bugünün neslinin dünyamızı ekosistemimize katkıda bulunan böcekler ve hayvanlarla paylaşmayı öğrenmesi gibi, gelecek nesiller de bugün hayal bile edemeyeceğimiz çok çeşitli zekalarla nasıl iletişim kuracaklarını ve işbirliği yapacaklarını öğrenmek zorunda kalacaklar.

Elbette tarih bize 'paylaşmanın' hiçbir zaman insanlar için güçlü bir takım olmadığını söylüyor. İnsan genişlemesi nedeniyle yüz binlerce tür yok oldu, sadece yüzlerce daha az gelişmiş uygarlık, genişleyen imparatorlukların fethi altında yok oldu.

Bu trajediler, insanın kaynaklara (yiyecek, su, hammadde vb.) olan ihtiyacından ve kısmen de yabancı uygarlıklar veya halklar arasında duyulan korku ve güvensizlikten kaynaklanmaktadır. Başka bir deyişle, geçmişin ve bugünün trajedileri, uygarlığın kendisi kadar eski nedenlerden kaynaklanmaktadır ve tüm bu yeni zeka sınıflarının ortaya çıkmasıyla daha da kötüleşeceklerdir.

Farklı zekalarla dolu bir dünyanın kültürel etkisi

Merak ve korku, insanların tüm bu yeni zeka türleri dünyaya girdiğinde yaşayacakları çelişkili duyguları en iyi özetleyen iki duygudur.

Tüm bu yeni insan ve yapay zeka zekalarını ve yaratabilecekleri olasılıkları yaratmak için kullanılan insan yaratıcılığına 'merak edin'. Ve sonra, mevcut insan nesillerinin bu "gelişmiş" varlıkların gelecek nesillerine sahip olacağı anlayış ve aşinalık eksikliğinden "kork".

Nasıl ki hayvanlar dünyası ortalama bir böceğin kavrayışının tamamen ötesindeyse ve insanların dünyası da ortalama bir hayvanın kavrayışının tamamıyla ötesindeyse, yapay zekaların dünyası ve hatta süper zeki insanlar bile bugünün kapsamının çok ötesinde olacaktır. ortalama insan anlayabilir.

Ve gelecek nesiller bu yeni yüksek zekalarla iletişim kurabilecek olsa da, pek çok ortak noktamız olacak gibi değil. YGZ'leri ve ASI'leri tanıtan bölümlerde, yapay zeka zekalarını insan zekası gibi düşünmeye çalışmanın neden bir hata olacağını açıkladık.

Kısaca, insan düşüncesini yönlendiren içgüdüsel duygular, aktif olarak kaynaklar, çiftleşme ortakları, sosyal bağlar, hayatta kalma vb. arayan birkaç bin yıllık insan neslinin evrimsel biyolojik mirasıdır. Geleceğin yapay zekası bu evrimsel bagajın hiçbirine sahip olmayacak. Bunun yerine, bu dijital zekaların tamamen kendilerine özgü amaçları, düşünme biçimleri, değer sistemleri olacaktır.

Aynı şekilde, tıpkı modern insanın, zekamız sayesinde doğal insani arzularının bazı yönlerini bastırmayı öğrenmesi gibi (örneğin, bağlı ilişkilerde cinsel partnerlerimizi sınırlıyoruz; hayali onur ve erdem kavramları nedeniyle yabancılar için hayatlarımızı riske atıyoruz, vb.) , gelecekteki insanüstü insanlar bu ilkel içgüdülerin tamamen üstesinden gelebilir. Eğer bu mümkünse, o zaman sadece yeni bir insan sınıfı değil, gerçekten uzaylılarla uğraşıyoruz.

Gelecekteki süper ırklar ve bizler arasında barış olacak mı?

Barış, güvenden gelir ve güven, aşinalık ve ortak hedeflerden gelir. Gelişmiş olmayan insanların bu süper zekalarla bilişsel olarak ne kadar az ortak noktası olduğunu zaten tartıştığımız için aşinalığı masadan kaldırabiliriz.

Bir senaryoda, bu zeka patlaması, alt sınıflardan olanların ayağa kalkması neredeyse imkansız olacak zeka temelli sosyal sınıflar yaratan tamamen yeni bir eşitsizlik biçiminin yükselişini temsil edecek. Zengin ve fakir arasındaki genişleyen ekonomik uçurumun bugün huzursuzluğa neden olması gibi, farklı zeka sınıfları/nüfusları arasındaki uçurum, daha sonra çeşitli zulme veya topyekün savaşa dönüşebilecek kadar yeterli korku ve kızgınlık yaratabilir. Dışarıdaki çizgi roman okuyucuları için bu, size Marvel'in X-men serisindeki klasik zulüm arka planını hatırlatabilir.

Alternatif senaryo, geleceğin bu süper zekalarının, daha basit kitleleri, onları toplumlarına kabul etmeleri için duygusal olarak manipüle etmenin yollarını bulması ya da en azından tüm şiddetten kaçınacak bir noktaya gelmesidir. 

Peki hangi senaryo galip gelecek? 

Her ihtimalde, ortada bir şeylerin oynandığını göreceğiz. Bu istihbarat devriminin başlangıcında, olağan olanı göreceğiz. 'teknopanik' teknoloji hukuku ve politika uzmanı Adam Thierer, olağan sosyal modeli şöyle tanımlıyor:

• Yeniden korkmaya neden olan, özellikle de sosyal adetleri bozan veya işleri ortadan kaldıran nesiller arası farklılıklar İşin Geleceği diziler);
• Gerçekte hiçbir zaman o kadar iyi olmayan eski güzel günler için "hipernostalji";
• Muhabirler ve uzmanlar için tıklamalar, görüntülemeler ve reklam satışları karşılığında yeni teknolojiler ve trendler hakkında korku tacirleri için teşvik;
• Özel çıkarlar, gruplarının bu yeni teknolojiden nasıl etkilendiğine bağlı olarak hükümet parası veya eylem için birbirlerine dirsek atıyor;
• Kitle halkının benimsediği yeni teknolojilerden korkan akademik ve kültürel eleştirmenlerin seçkinci tutumları;
• Dünün ve bugünün ahlaki ve kültürel tartışmalarını yarının yeni teknolojilerine yansıtan insanlar.

Ama her yeni gelişme gibi, insanlar buna da alışacaklar. Daha da önemlisi, iki tür aynı düşünmeyebilirken, karşılıklı olarak paylaşılan çıkarlar veya hedefler aracılığıyla barış bulunabilir.

Örneğin, bu yeni yapay zeka, hayatımızı iyileştirmek için yeni teknolojiler ve sistemler yaratabilir. Buna karşılık, finansman ve hükümet desteği, özellikle Çin ve ABD AI programları arasındaki aktif rekabet sayesinde, genel olarak AI'nın çıkarlarını geliştirmeye devam edecek.

Benzer şekilde, konu insanüstü yaratıklar yaratmaya geldiğinde, birçok ülkedeki dini gruplar, bebeklerini genetik olarak kurcalama eğilimine direneceklerdir. Ancak pratiklik ve ulusal çıkar bu engeli yavaş yavaş kıracaktır. İlki için, ebeveynler, çocuklarının hastalıklı ve hatasız doğmasını sağlamak için genetik düzenleme teknolojisini kullanmaya meyillidir, ancak bu ilk hedef, daha istilacı genetik geliştirmeye doğru kaygan bir eğimdir. Benzer şekilde, Çin nüfusunun tüm nesillerini genetik olarak zenginleştirmeye başlarsa, ABD de aynı şeyi takip etme veya yirmi yıl sonra kalıcı olarak geri kalma riskini alma konusunda stratejik bir zorunluluğa sahip olacak - ve dünyanın geri kalanı da öyle.

Bu bölümün tamamı ne kadar yoğun olursa olsun, bunların hepsinin aşamalı bir süreç olacağını hatırlamamız gerekiyor. Dünyamızı çok farklı ve çok tuhaf yapacak. Ama buna alışacağız ve bu bizim geleceğimiz olacak.

Yapay Zeka serisinin Geleceği

Yapay Zeka yarının elektriğidir: Yapay Zekanın Geleceği serisi P1

İlk Yapay Genel Zeka toplumu nasıl değiştirecek: Yapay Zekanın Geleceği serisi P2

İlk Yapay Süper Zekayı Nasıl Yaratacağız: Yapay Zekanın Geleceği P3

Yapay bir Süper Zeka insanlığı yok edecek mi? Yapay Zekanın Geleceği P4

İnsanlar Yapay Süper Zekaya Karşı Nasıl Savunma Yapacak: Yapay Zekanın Geleceği P5