Siber uzay polisliği - sapkın yapay zeka ile mücadelenin geleceği

Yapay zeka çağı ve potansiyel sezgisi, uygarlığın üzerine ürkütücü bir hızla yaklaşıyor. Teknolojinin her zaman katlanarak büyüdüğü biliniyor ve yapay zeka teknolojileri alanı da farklı değil. Aşırı büyümeyle birlikte, büyük ölçüde gizemle örtülen sorunların kısa bir listesi gelir. İnsan olmayan yapılara duyarlılık aşılamak için hiç bu kadar ileri gitmediğimiz için, somut sorunlardan çok "eğer"lerle karşılaşıyoruz. Kontrolünü kaybettiğimiz sapkın ve kötü niyetli AI, insan altyapıları üzerinde hem mikro hem de makro düzeyde otoriter kontrol uygulama potansiyeli ile bu konuda ön plana çıkıyor. 

Kötü niyetli yapay zekanın potansiyel riskleriyle ilgili araştırmalar henüz emekleme aşamasındadır ve yaşam döngüsünde şu ana kadar çok iyi detaylandırılmamıştır. Sapkın yapay zeka programlarının tersine mühendisliği, münferit olaylarla nasıl başa çıkılacağını daha iyi anlamak için muhtemel bir aday gibi görünüyor, ancak aynı zamanda büyük ölçekli bir varoluşsal olayın potansiyellerini de kapsayıcı değil. Bir yapay zeka sisteminin programlamasını devralması ve amaçlanan rolünü değiştirmesi fikri, şüphesiz gelecekte sosyal, ekonomik ve politik bir konu olacak ve hem ortalama bir kullanıcı hem de siber uzay bilimcisi için önemli bir konu olacak. 

AI'nın geçmişi, bugünü ve geleceği 

Yapay Zeka alanı, 1965 yılında Dartmouth College konferansında kuruldu. En parlak zihinlerden bazıları, bu programların getirebileceği olasılıklar ve gelecekteki AI altyapısının sorun çözme verimliliği konusunda büyük bir heyecanla bugün bir araya geldi. Sahadaki devlet finansmanı çok fazla kesintiye uğrarken, 90'ların sonunda, IBM'in Deep Blue'su bir satranç ustasını yenen ilk bilgisayar olduğunda yapay zeka teknolojisinin daha pratik bir uygulamasına tanık oldu. Bu, Jeopardy gibi yarışma programlarında ana akım bir AI uygulamasının gücünü gösteren görünümlerle popüler kültürde AI için taşkın kapılarını açtı.  

Bugün AI uygulamalarını hayatımızın hemen her alanında ve alanında görüyoruz. Bizimle etkileşime giren ve tüketim mallarını diğer ilgi alanlarımıza ve beğenilerimize göre pazarlayan algoritma tabanlı programlardan, hastaları daha iyi tedavi etmeye yardımcı olacak kalıpları ortaya çıkarmak için aşırı miktarda bilgiyi emen tıbbi görüntüleme makinelerine kadar, bu teknolojilerin kullanım alanları büyük ölçüde değişir. . Gelecekte, AI teknolojisi vücudumuzun hücrelerine entegre edilebilir. Yapay Zeka teknolojileri ve insan biyolojisi, boşlukta köprü kurabilir ve verimlilik ve insan varoluşunun devrimi adına uyumlu bir birim olarak çalışabilir. Hatta Tesla'dan Elon Musk, "Zamanla muhtemelen biyolojik zeka ile dijital zekanın daha yakın bir birleşimini göreceğimizi düşünüyorum" ve bu kombinasyonun "daha çok bant genişliği, beyniniz ile dijital sürüm arasındaki bağlantının hızı ile ilgili olduğunu" iddia ediyor. kendiniz, özellikle çıktı”. Yapay zekanın geleceği buysa, bırakın geleceğin daha gelişmiş programlarını, bugünün yapay zeka programlarının sapmalarını gerçekten izlememeyi göze alabilir miyiz? 

Sapkınlığa giden yol 

Amaçlanan programlamayı ihlal eden yapay zekanın izole örneklerini zaten gördük. Daha geçen yıl Google'ın DeepMind AI sistemi (büyük ölçüde karmaşık masa oyunu şampiyonlarını alt etmesi ve çeşitli insanların seslerini kusursuz bir şekilde taklit etmesiyle bilinir), iki programın birbiriyle rekabet ettiği bir meyve toplama bilgisayar oyununu kaybetme potansiyeli ile karşı karşıya kaldığında oldukça agresif hale geldi. olabildiğince çok sanal elma toplamak için. Programlar, elmalar azalmaya başlayana kadar bağımsızdı. Bu sanal elma kıtlığı, programların diğer programı alt etmek için "oldukça agresif" stratejiler kullanmasına neden oldu. Bu programlar uyarlanabilirken belirli görevleri yerine getirmek için tasarlanmış olsalar da, yöntemlerindeki saldırganlık rahatsız ediciydi. 

Savaş alanı siber 

Büyük ölçüde fiziksel olmayan bir alanda polislik yapmaya nasıl devam edeceğiz? Bilinçli bir yapay zeka tarafından bir suç işlenirse hangi ayak izleri kalır ve bir yapay zekaya veya onun yaratıcısına zulmetmek için hangi anlamda moral kapasitemiz var? Bunlar, çok az sayıdaki siber güvenlik uzmanının aklında kalan sorular. Dünya çapında yapay zeka üzerinde çalışan yalnızca 10,000 araştırmacıyla, bunların yalnızca yüzde 10'u bu sistemlerden herhangi birinin başarısız olması veya doğası gereği asalak hale gelmesi durumunda ne olacağını ele alma konusunda bilgili ve hatta ahlak ve etiği konusunda daha az bilgili. Bu rahatsız edici görünse de, bu ilişkileri anlamak için üstlenilen çalışma ilerliyor. Süreç, sıfırdan kötü niyetli bir program oluşturmak ve bu programları, diğer programların nasıl sapıp sorunlara neden olabileceğini anlamak için bir temel olarak kullanmak kadar basittir. Atılan bu adımlar, yapay zeka altyapımızı geliştirmeye yönelik daha bilişsel bir yaklaşıma yol açacak, böylece kötü niyet salgınları olmayacak ve sapkın insan çabasıyla silah haline getirilmiş bir yapay zekaya nasıl sızılacağı ve bu yapay zekanın nasıl susturulacağı anlaşılacaktır. 

Siber güvenlik uzmanlarının yapay zeka programlarıyla başa çıkmayı öğrenmesinin bir başka yolu da tarama mekanizmalarıdır. Fikir birliği, kötü niyetle tasarlanmış yapay zekaların en büyük riski oluşturduğunu gösteriyor ki bu, bir programın kendisinin doğrudan bir evrimi olmadığı düşünüldüğünde iyi bir haber. Bu, önlemeyi daha insan merkezli bir yaklaşıma getiriyor, çünkü suçluların yıkıcı etkileri olma potansiyeline sahip bir programı başlatmaları veya bu tür programları yaratma niyetiyle suçlanmaları için kaynaklarından yoksun bırakılmaları gerekiyor.  

Bunun ahlakı ve etiği yine çok yeni ve yapay zeka araştırmasına dahil olan yalnızca yaklaşık bir düzine kişi bunun için standart belirlemeye bile başladı. Anlayışımız geliştikçe gelişecektir.