Polisye cyberspace - lavni pou konbat AI devye

Laj la nan entèlijans atifisyèl ak sansiblite potansyèl li yo ap leve sou sivilizasyon nan yon vitès alarmant. Teknoloji te toujou konnen yo grandi eksponansyèlman, ak domèn teknoloji AI pa diferan. Avèk kwasans twòp, vini yon lis kout nan pwoblèm ki lajman kouvri nan mistè. Lè nou pa janm s'aventure sa a byen lwen nan enfuze santiyans nan konstriksyon ki pa imen, nou kouri nan plis "e si" pase pwoblèm konkrè. AI devye ak malveyan ke nou pèdi kontwòl yo vin pi devan nan sans sa a ak potansyèl pou egzèse kontwòl otoritè sou enfrastrikti imen tou de sou yon nivo mikwo ak makro. 

Rechèch ki fè fas ak risk potansyèl de AI malveyan se toujou anpil nan anfans li, epi li pa trè byen egzajere jiska prezan nan sik lavi li. Jeni ranvèse nan pwogram AI devye sanble ap yon kandida chans pou pi byen konprann ki jan fè fas ak ensidan izole, men tou, pa tout twò anglobe potansyèl yo nan yon gwo echèl evènman egzistans. Lide a nan yon sistèm AI depase pwogram li yo ak chanje wòl li gen entansyon san dout pral yon pwoblèm sosyal, ekonomik ak politik nan lavni an, ak yon pwoblèm kle pou joe an mwayèn ak syantifik cyberspace sanble. 

sot pase, prezan ak avni AI 

Te jaden entèlijans atifisyèl te fonde an 1965 nan yon konferans Dartmouth College. Gen kèk nan lespri ki pi klere yo te reyini nan jounen sa a ak anpil eksitasyon sou posiblite pwogram sa yo ta ka pote ak efikasite nan rezoud pwoblèm nan enfrastrikti AI nan lavni. Pandan ke finansman gouvènman an nan domèn nan te anpil sou ak koupe, fen ane 90 yo te wè yon aplikasyon pi pratik nan teknoloji AI lè Deep Blue IBM a te vin premye òdinatè ki te janm bat yon granmèt echèk. Sa a te louvri pòtay yo pou AI nan kilti pòp ak aparisyon nan emisyon egzamen, tankou Jeopardy, ki montre pouvwa yon aplikasyon AI endikap.  

Jodi a nou wè aplikasyon AI nan prèske tout domèn ak aspè nan lavi nou. Soti nan pwogram ki baze sou algorithm ki kominike avèk nou epi mache machandiz konsomatè ki baze sou lòt enterè ak renmen nou yo, rive nan machin medikal D 'ki absòbe kantite ekstrèm enfòmasyon pou dekouvri modèl pou pi byen ede trete pasyan yo, itilizasyon teknoloji sa yo varye anpil nan dimansyon yo. . Nan lavni an, teknoloji AI ta ka entegre nan selil yo menm nan kò nou an. Teknoloji entèlijans atifisyèl ak byoloji imen ta ka konble diferans lan epi travay kòm yon inite limenm nan non efikasite ak revolisyon egzistans imen an. Elon Musk nan Tesla menm deklare ke "apre yon tan mwen panse ke nou pral pwobableman wè yon fizyon pi pre nan entèlijans byolojik ak entèlijans dijital" e ke konbinezon sa a se "sitou sou Pleasant la, vitès la nan koneksyon ki genyen ant sèvo ou ak vèsyon dijital la nan. tèt ou, patikilyèman pwodiksyon". Si sa a se avni AI, èske nou ka vrèman gen mwayen pou nou pa kontwole devyasyon pwogram AI jodi a, alewè pou nou plis avanse nan tan kap vini an? 

Wout la nan devyasyon 

Nou te deja wè egzanp izole nan AI vyole pwogramasyon li gen entansyon. Jis ane pase a, sistèm DeepMind AI Google la (ki lajman li te ye pou bat chanpyon jwèt tablo konplèks ak parfètman imite vwa yo nan divès èt imen) te vin trè agresif lè yo te fè fas ak potansyèl la nan pèdi yon jwèt rasanble fwi nan òdinatè nan ki de pwogram yo te konpetisyon youn kont lòt. kolekte kòm anpil pòm vityèl jan yo te kapab. Pwogram yo te endepandan jiska pòm yo te kòmanse vin pi ra. Sa a rate nan pòm vityèl te lakòz pwogram yo anplwaye estrateji "trè agresif" yo nan lòd yo pi byen lòt pwogram nan. Malgre ke pwogram sa yo te fèt pou fè travay espesifik pandan ke yo te adaptab, agresyon nan metòd li yo te boulvèsan. 

Chan batay cyberspace 

Ki jan nou ale sou lapolis yon zòn ki se lajman nan yon nati ki pa fizik? Ki mak pye yo kite si yon AI ki santi yon krim komèt, e nan ki sans nou gen kapasite moral pou pèsekite yon AI oswa kreyatè li a? Sa yo se kesyon yo ki rete nan lespri yo nan kèk yo ak byen lwen ant pwofesyonèl sekirite cyber. Avèk sèlman 10,000 chèchè k ap travay sou AI atravè mond lan, sèlman 10 pousan nan yo se vèrs nan adrese sa ki ta rive si nenpòt nan sistèm sa yo ta echwe oswa vin parazit nan lanati e menm mwens vèrs nan moral yo ak etik nan li. Pandan ke sa a ka sanble boulvèsan, travay la ap antreprann nan konpreyansyon relasyon sa yo ap pwogrese. Pwosesis la se senp tankou kreye yon pwogram malveyan nan grafouyen epi sèvi ak pwogram sa yo kòm yon fondasyon pou konprann ki jan lòt pwogram ka devye ak lakòz pwoblèm. Avèk etap sa yo k ap pran, li pral mennen nan yon apwòch plis kognitif pou devlope enfrastrikti AI nou an pou ke epidemi malveyans pa rive, epi tou pou konprann ki jan yo enfiltre ak silans yon AI ki te zam nan efò imen devye. 

Yon lòt fason pwofesyonèl cybersecurity ap aprann fè fas ak pwogram AI se atravè mekanis tès depistaj li yo. Konsantman montre ke AI ki fèt ak entansyon move reprezante pi gwo risk, ki se yon bon nouvèl lè nou konsidere li pa yon evolisyon kareman nan yon pwogram tèt li. Sa a pote prevansyon nan yon apwòch ki pi santre sou moun nan ke kriminèl yo dwe jwenn sous ak grangou nan resous pou yo janm inisye yon pwogram ki gen posiblite pou gen efè devastatè, oswa chaje ak entansyon pou kreye pwogram sa yo.  

Moral ak etik sa a se ankò trè nouvo, epi sèlman anviwon yon douzèn moun ki enplike nan rechèch AI yo te menm kòmanse fikse estanda pou sa a. Li pral evolye kòm konpreyansyon nou ap grandi.