Kuantumrun

GÖRÜNTÜ KREDİSİ: Kuantumrun

İlk Yapay Süper Zekayı Nasıl Yaratacağız: Yapay Zekanın Geleceği P3

David Tal, Yayıncı, Fütürist
@DavidTalWrites
LinkedIn

Salı, 09/15/2020 - 13:17

II. Dünya Savaşı'nın derinliklerinde, Nazi kuvvetleri Avrupa'nın büyük bir bölümünde hızla ilerliyordu. Gelişmiş silahlara, verimli savaş endüstrisine, fanatik bir şekilde yönlendirilen piyadelere sahiptiler, ama hepsinden öte, Enigma adında bir makineleri vardı. Bu cihaz, standart iletişim hatları üzerinden birbirlerine Mors kodlu mesajlar göndererek Nazi kuvvetlerinin uzun mesafelerde güvenli bir şekilde işbirliği yapmalarını sağladı; insan kod kırıcılarına karşı zaptedilemez bir şifre makinesiydi.

Neyse ki, Müttefikler bir çözüm buldu. Artık Enigma'yı kırmak için bir insan zihnine ihtiyaçları yoktu. Bunun yerine, müteveffa Alan Turing'in bir icadı ile Müttefikler, İngiliz BombasıSonunda Nazilerin gizli kodunu çözen ve sonunda savaşı kazanmalarına yardımcı olan elektromekanik bir cihaz.

Bu Bombe, modern bilgisayar haline gelen şeyin temelini attı.

Bombe geliştirme projesi sırasında Turing ile birlikte çalışan İngiliz matematikçi ve kriptolog IJ Good oldu. Oyunun sonunda bu yeni cihazın bir gün ortaya çıkabileceğini erkenden gördü. İçinde 1965 kağıt, o yazdı:

"Ultra-akıllı bir makine, ne kadar zeki olursa olsun, herhangi bir insanın tüm entelektüel etkinliklerini kat kat aşabilen bir makine olarak tanımlansın. Makinelerin tasarımı bu entelektüel faaliyetlerden biri olduğu için, ultra akıllı bir makine daha da iyi makineler tasarlayabilir; o zaman kuşkusuz bir "zeka patlaması" olurdu ve insanın zekası çok gerilerde kalırdı... Böylece ilk ultraakıllı makine, makinenin bize nasıl olduğunu söyleyecek kadar uysal olması koşuluyla, insanın yapması gereken son icattır. kontrol altında tutmaktır.”

İlk yapay süper zekayı yaratmak

Şimdiye kadar Yapay Zekanın Geleceği serimizde, üç geniş yapay zeka kategorisini (AI) tanımladık. yapay dar zeka (ANI) için yapay genel zeka (YGY), ancak bu dizinin bu bölümünde, yapay süper zeka (ASI) araştırmacıları arasında heyecan veya panik atakları besleyen son kategoriye odaklanacağız.

Bir ASI'nin ne olduğunu anlamak için, AI araştırmacılarının ilk YGZ'yi yaratacaklarına nasıl inandıklarını özetlediğimiz son bölüme geri dönmeniz gerekecek. Temel olarak, giderek daha güçlü bilgi işlem donanımında yer alan daha iyi algoritmaları (kendini geliştirme ve insan benzeri öğrenme yetenekleri konusunda uzmanlaşmış olanlar) besleyen büyük verinin bir kombinasyonunu alacaktır.

Bu bölümde, bir YGZ zihninin (biz insanların kanıksadığı bu kendini geliştirme ve öğrenme yeteneklerini bir kez kazandığında) nihayetinde üstün düşünce hızı, gelişmiş hafıza, yorulmayan performans ve anında yükseltilebilirlik.

Ancak burada, bir YGZ'nin yalnızca erişebildiği donanım ve verilerin sınırlarına göre kendini geliştireceğini belirtmek önemlidir; bu sınır, ona verdiğimiz robot gövdesine veya erişmesine izin verdiğimiz bilgisayarların ölçeğine bağlı olarak büyük veya küçük olabilir.

Bu arada, bir AGI ve bir ASI arasındaki fark, ikincisinin teorik olarak asla fiziksel bir biçimde var olmayacağıdır. Tamamen bir süper bilgisayar veya süper bilgisayar ağı içinde çalışacaktır. Yaratıcılarının hedeflerine bağlı olarak, İnternet'te depolanan tüm verilere ve ayrıca İnternet'e ve İnternet üzerinden veri besleyen herhangi bir cihaz veya insana tam erişim sağlayabilir. Bu, bu ASI'nin ne kadar öğrenebileceği ve kendini ne kadar geliştirebileceği konusunda pratik bir sınır olmayacağı anlamına gelir.

Ve bu ovmak.

İstihbarat patlamasını anlamak

Yapay zekaların sonunda YGZ olduklarında kazanacakları bu kendini geliştirme süreci (AI topluluğunun özyinelemeli kendini geliştirme olarak adlandırdığı bir süreç), potansiyel olarak şuna benzeyen olumlu bir geri bildirim döngüsünü tetikleyebilir:

Yeni bir AGI oluşturulur, bir robot gövdesine veya büyük bir veri kümesine erişim verilir ve ardından kendisini eğitmek, zekasını geliştirmek gibi basit bir görev verilir. İlk başta, bu AGI, yeni kavramları kavramak için mücadele eden bir bebeğin IQ'suna sahip olacaktır. Zamanla, ortalama bir yetişkinin IQ'suna ulaşacak kadar öğrenir, ancak burada bitmez. Bu yeni keşfedilen yetişkin IQ'sunu kullanarak, bu gelişmeyi IQ'sunun bilinen en zeki insanlarla eşleştiği bir noktaya kadar sürdürmek çok daha kolay ve hızlı hale geliyor. Ama yine, orada bitmiyor.

Bu süreç, süper zekanın hesaplanamaz düzeyine ulaşana kadar hızlanan geri dönüşler yasasını izleyerek her yeni zeka düzeyinde birleşir - başka bir deyişle, kontrol edilmezse ve sınırsız kaynaklar verilirse, bir YGZ kendi kendini geliştirerek bir ASI'ye, yani zekaya dönüşecektir. doğada daha önce hiç var olmamıştı.

Bu, IJ Good'un bu "istihbarat patlamasını" veya Nick Bostrom gibi modern AI teorisyenlerinin AI'nın "kalkış" olayı dediği şeyi tanımladığında ilk olarak tanımladığı şeydir.

Yapay bir süper zekayı anlamak

Bu noktada, bazılarınız muhtemelen insan zekası ile bir ASI'nin zekası arasındaki temel farkın her iki tarafın da ne kadar hızlı düşünebileceği olduğunu düşünüyor. Ve bu teorik geleceğin ASI'sinin insanlardan daha hızlı düşüneceği doğru olsa da, bu yetenek günümüzün bilgisayar sektöründe zaten oldukça yaygın - akıllı telefonumuz insan zihninden daha hızlı düşünüyor (hesaplıyor), Süper bilgisayar bir akıllı telefondan milyonlarca kat daha hızlı düşünür ve gelecekteki bir kuantum bilgisayarı daha da hızlı düşünecektir.

Hayır, hız burada açıkladığımız zekanın özelliği değildir. Kalite bu.

Samoyed veya Corgi'nizin beynini istediğiniz kadar hızlandırabilirsiniz, ancak bu, dilin veya soyut fikirlerin nasıl yorumlanacağı konusunda yeni bir anlayışa dönüşmez. Fazladan bir veya iki on yıl geçse bile, bu doggolar, bırakın kapitalist ve sosyalist ekonomik sistem arasındaki ince farkları anlamak şöyle dursun, aletlerin nasıl yapıldığını veya kullanılacağını birdenbire kavrayamayacaklar.

Zeka söz konusu olduğunda, insanlar hayvanlardan farklı bir düzlemde çalışırlar. Benzer şekilde, bir ASI teorik potansiyelinin tamamına ulaşırsa, zihinleri ortalama modern insanın erişiminin çok ötesinde bir düzeyde çalışacaktır. Bazı bağlamlar için, bu ASI'nin uygulamalarına bakalım.

Yapay bir süper zeka insanlığın yanında nasıl çalışabilir?

Belirli bir hükümet veya şirketin bir ASI oluşturmada başarılı olduğunu varsayarsak, bunu nasıl kullanabilirler? Bostrom'a göre, bu ASI'nin alabileceği üç ayrı ancak birbiriyle ilişkili biçim vardır:

Kahin. Burada, zaten Google arama motoruyla yaptığımız gibi bir ASI ile etkileşime girerdik; ona bir soru soracağız, ancak soru ne kadar karmaşık olursa olsun, ASI bunu size ve sorunuzun bağlamına göre uyarlanmış bir şekilde mükemmel bir şekilde yanıtlayacaktır.
Cin. Bu durumda, bir ASI'ye belirli bir görev atayacağız ve komut verildiği gibi çalışacaktır. Kanser tedavisini araştırın. Tamamlandı. NASA'nın Hubble Uzay Teleskobu'ndan alınan 10 yıllık görüntü birikiminin içinde saklı olan tüm gezegenleri bulun. Tamamlandı. İnsanlığın enerji talebini çözmek için çalışan bir füzyon reaktörü tasarlayın. Abrakadabra.
Egemen. Burada, ASI'ye açık uçlu bir görev atanır ve onu yürütme özgürlüğü verilir. Kurumsal rakibimizden Ar-Ge sırlarını çalın. "Kolay." Sınırlarımızda saklanan tüm yabancı casusların kimliklerini keşfedin. "Üstünde." Amerika Birleşik Devletleri'nin ekonomik refahının devamını sağlamak. "Sorun değil."

Şimdi, ne düşündüğünü biliyorum, bunların hepsi kulağa çok uzak geliyor. Bu nedenle, bugüne kadar dünyanın en parlak zihinlerini şaşkına çevirmiş olanlar bile, dışarıdaki her sorunun/zorluğun çözülebilir olduğunu hatırlamak önemlidir. Ancak bir problemin zorluğu, onu ele alan zeka ile ölçülür.

Başka bir deyişle, zihin bir meydan okumaya ne kadar çok başvurursa, söz konusu meydan okumaya bir çözüm bulmak o kadar kolay olur. Herhangi bir meydan okuma. Bu, bir bebeğin bir kare bloğu yuvarlak bir açıklığa neden sığdıramadığını anlamak için mücadele etmesini izleyen bir yetişkin gibidir - yetişkin için, bebeğe bloğun kare açıklığa sığması gerektiğini göstermek çocuk oyuncağı olacaktır.

Benzer şekilde, bu gelecekteki ASI tam potansiyeline ulaşırsa, bu zihin bilinen evrendeki en güçlü akıl haline gelecektir - ne kadar karmaşık olursa olsun herhangi bir zorluğu çözecek kadar güçlü.

Bu nedenle birçok AI araştırmacısı, ASI'yi insanın yapmak zorunda kalacağı son buluş olarak adlandırıyor. İnsanlığın yanında çalışmaya ikna olursa, dünyanın en acil sorunlarının tümünü çözmemize yardımcı olabilir. Hatta ondan tüm hastalıkları ortadan kaldırmasını ve bildiğimiz gibi yaşlanmayı sona erdirmesini isteyebiliriz. İnsanlık ilk kez ölümü kalıcı olarak aldatabilir ve yeni bir refah çağına girebilir.

Ama bunun tersi de mümkündür.

Zeka güçtür. Kötü aktörler tarafından yanlış yönetilirse veya talimat verilirse, bu ASI baskının nihai aracı olabilir veya insanlığı tamamen yok edebilir - Terminatör'den Skynet'i veya Matrix filmlerinden Mimar'ı düşünün.

Gerçekte, ne aşırı olası değildir. Gelecek her zaman ütopyacıların ve distopyacıların tahmin ettiğinden çok daha karışıktır. Bu nedenle artık bir ASI kavramını anladığımıza göre, bu dizinin geri kalanı bir ASI'nin toplumu nasıl etkileyeceğini, toplumun haydut bir ASI'ye karşı nasıl savunacağını ve insanlar ve yapay zeka yan yana yaşarsa geleceğin nasıl görünebileceğini keşfedecek. -yan. Okumaya devam etmek.