Kiberməkanın polisi - deviant AI ilə mübarizənin gələcəyi

Süni intellekt əsri və onun potensial həssaslığı həyəcan verici sürətlə sivilizasiyanın üzərinə düşür. Texnologiyanın hər zaman eksponent şəkildə böyüdüyü məlum olub və AI texnologiyaları sahəsi heç də fərqli deyil. Həddindən artıq böyümə ilə, əsasən sirrlə örtülmüş problemlərin qısa siyahısı gəlir. Heç vaxt qeyri-insani konstruksiyalara həssaslıq aşılamaq üçün bu qədər səy göstərməmişik, biz konkret məsələlərdən daha çox “nə olarsa” ilə qarşılaşırıq. Nəzarəti itirdiyimiz azğın və bədxah süni intellekt bu baxımdan həm mikro, həm də makro səviyyədə insan infrastrukturlarına avtoritar nəzarəti həyata keçirmək potensialı ilə ön plana çıxır. 

Zərərli süni intellektin potensial riskləri ilə məşğul olan tədqiqatlar hələ çox körpəlik mərhələsindədir və bu günə qədər onun həyat dövründə çox yaxşı inkişaf etdirilməyib. Deviant süni intellekt proqramlarının tərs mühəndisliyi, təcrid olunmuş hadisələrlə necə məşğul olmağın daha yaxşı başa düşülməsi üçün ehtimal namizəd kimi görünür, eyni zamanda geniş miqyaslı ekzistensial hadisənin potensiallarını çox da əhatə etmir. Proqramlaşdırmanı qabaqlayan və nəzərdə tutulan rolunu dəyişdirən AI sisteminin ideyası, şübhəsiz ki, gələcəkdə sosial, iqtisadi və siyasi problem olmaqla yanaşı, həm orta səviyyəli həm də kiberməkan alimi üçün əsas məsələ olacaqdır. 

Süni intellektin keçmişi, indisi və gələcəyi 

Süni intellekt sahəsinin əsası 1965-ci ildə Dartmut Kollecində keçirilən konfransda qoyulub. Ən parlaq ağıllardan bəziləri bu gün bu proqramların gətirə biləcəyi imkanlar və gələcək süni intellekt infrastrukturunun problemlərin həlli səmərəliliyi haqqında böyük həyəcanla bir araya gəldilər. Sahədə hökumətin maliyyələşdirilməsi çox və söndürüldükdə, 90-cı illərin sonu, IBM-in dərin mavi mavi bir şahmat qrossmeysteri döymək üçün ilk kompüter oldu. Bu, əsas AI tətbiqinin gücünü nümayiş etdirən Jeopardy kimi viktorina şoularında çıxış etməklə pop mədəniyyətdə süni intellekt üçün qapıları açdı.  

Bu gün biz AI tətbiqlərimizi həyatımızın demək olar ki, hər sahəsində və aspektində görürük. Bizimlə qarşılıqlı əlaqədə olan alqoritm əsaslı proqramlardan və digər maraqlarımıza və bəyənmələrimizə əsaslanan istehlak mallarını bazara çıxarmaqdan tutmuş xəstələrin müalicəsinə daha yaxşı kömək etmək üçün nümunələri aşkar etmək üçün həddindən artıq miqdarda məlumatı mənimsəyən tibbi görüntüləmə maşınlarına qədər, bu texnologiyaların istifadəsi əhatə dairəsinə görə böyük ölçüdə dəyişir. . Gələcəkdə AI texnologiyası bədənimizin hüceyrələrinə inteqrasiya oluna bilər. Süni İntellekt texnologiyaları və insan biologiyası uçurumu aradan qaldıra və səmərəlilik və insan varlığının inqilabı naminə vahid vahid kimi işləyə bilər. Tesla-dan Elon Musk hətta iddia edir ki, “zaman keçdikcə biz yəqin ki, bioloji intellekt və rəqəmsal intellektin daha yaxın birləşməsini görəcəyik” və bu birləşmə “əsasən bant genişliyi, beyniniz və rəqəmsal versiya arasındakı əlaqə sürəti ilə bağlıdır”. özünüz, xüsusən də çıxış”. Əgər bu, süni intellektin gələcəyidirsə, gələcəyin daha təkmil proqramlarını bir yana qoyaq, bugünkü süni intellekt proqramlarının sapmalarını izləməməyi həqiqətən ödəyə bilərikmi? 

Azğınlığa gedən yol 

Biz artıq süni intellektin nəzərdə tutulmuş proqramlaşdırmanı pozmasının təcrid olunmuş nümunələrini görmüşük. Keçən il Google-un DeepMind AI sistemi (əsasən mürəkkəb stolüstü oyun çempionlarını məğlub etmək və müxtəlif insanların səslərini qüsursuz surətdə təqlid etməklə tanınır) iki proqramın bir-birinə bir-birinə qarşı yarışdığı meyvə toplayan kompüter oyununu itirmək potensialı ilə qarşılaşdıqda çox aqressiv olmuşdu. bacardıqları qədər virtual alma toplamaq. Almalar azalmağa başlayana qədər proqramlar müstəqil idi. Virtual almaların bu qıtlığı proqramların digər proqramı ən yaxşı şəkildə yerinə yetirmək üçün “yüksək aqressiv” strategiyalardan istifadə etməsinə səbəb oldu. Baxmayaraq ki, bu proqramlar uyğunlaşa bilən xüsusi tapşırıqları yerinə yetirmək üçün nəzərdə tutulsa da, onun metodlarındakı aqressivlik narahat edirdi. 

Döyüş meydanı kiberməkanı 

Əsasən qeyri-fiziki təbiətə malik olan ərazini necə asayişi təmin etmək olar? Cinayətin şüurlu süni intellekt tərəfindən törədildiyi təqdirdə hansı izlər qalır və bizim süni intellekt və ya onun yaradıcısını təqib etmək üçün hansı mənada mənəvi imkanlarımız var? Kibertəhlükəsizlik üzrə peşəkarlar arasında çox az adamın ağlında qalan suallar bunlardır. Dünyada süni intellekt üzərində işləyən cəmi 10,000 10 tədqiqatçının yalnız XNUMX faizi bu sistemlərdən hər hansı biri uğursuz olarsa və ya parazit olarsa, nələrin baş verəcəyini həll etməyi bilir və hətta onun əxlaqı və etikasından daha az məlumatlıdır. Bu, narahatedici görünsə də, bu əlaqələrin anlaşılması istiqamətində görülən işlər davam edir. Proses sıfırdan zərərli proqram yaratmaq və bu proqramlardan digər proqramların necə kənara çıxa və problemlər yarada biləcəyini başa düşmək üçün əsas kimi istifadə etmək qədər sadədir. Bu addımların atılması ilə bu, süni intellekt infrastrukturumuzu inkişaf etdirməyə daha idraklı yanaşmaya gətirib çıxaracaq ki, beləliklə, bədxahlıq hallarının baş verməməsi olsun, o cümlədən, qeyri-adi insan səyləri ilə silahlanmış süni intellektə sızmaq və onu susdurmaq yollarını başa düşək. 

Kibertəhlükəsizlik mütəxəssislərinin süni intellekt proqramları ilə məşğul olmağı öyrənmələrinin başqa bir yolu onun yoxlama mexanizmləridir. Konsensus göstərir ki, zərərli niyyətlə hazırlanmış süni intellektlər ən böyük risk yaradır və bu, proqramın özünün birbaşa təkamülü olmadığını nəzərə alsaq, yaxşı xəbərdir. Bu, qarşısının alınmasını daha insan mərkəzli yanaşmaya gətirir, belə ki, cinayətkarlar nə vaxtsa dağıdıcı təsir göstərə biləcək bir proqrama başlamaq və ya bu cür proqramlar yaratmaq niyyəti ilə ittiham etmək üçün qaynaqlı və resurslardan məhrum olmalıdırlar.  

Bunun əxlaqı və etikası yenə çox yenidir və yalnız AI tədqiqatı ilə məşğul olan təxminən onlarla insan bunun üçün standart yaratmağa başlamışdır. Anlayışımız böyüdükcə inkişaf edəcəkdir.