AI as minsken: wat is de grutste bedriging foar ús fuortbestean?

Keunstmjittige yntelliginsje hat him stiekem noflik makke yn it kollektive ûnderbewuste fan it publyk sûnt lang foar't Siri jo beleefd herinnerde waans jierdei komt of wrakselje om in aksint oars te begripen dan breed Kalifornysk (of miskien is dat gewoan myn byl om te slypjen). Mei oarsprong út 'e 1940's begonen yntelliginte kompjûters mei basisdekodearjen en algebra, en ûntwikkelen yn 'e lêste part fan 'e 20e ieu mei skriklike snelheid gruttere ferwurkingskrêft. Tsjin de tiid dat se yn it publyk kamen, holpen se de minsken al by it sjitten fan raketten op 'e moanne, en ek, heulendal, elkoar. 

De bedriging fan keunstmjittige yntelliginsje 

Keunstmjittige yntelliginsje is in kompleks ûnderwerp, de bedriging dy't it foarmet mear. Ik haw koartlyn de stipe ynroppen fan 'e briljante Fred Popowich, haad fan it programma 'Big Data' fan 'e Simon Fraser University. By de kofje lei hy my út dat der "in ferskil is tusken keunstmjittige yntelliginsje en keunstmjittige feardigens. In masine mei keunstmjittige feardigens (iets dat programmearre is om ien ding goed te dwaan) koe op himsels gjin bedriging foarmje, mar it koe troch ien brûkt wurde, sadat in bedriging ûntstiet. Keunstmjittige yntelliginsje (in masine dy't in situaasje kin leare / beoardielje en sels in beslút nimme kin), oan 'e oare kant, kin in waarnimmbere selsstannige bedriging foarmje, om't it ûnôfhinklik kin wurkje fan minsklike ynteraksje. 

Simpelwei, d'r binne twa foarmen fan AI en beide foarmje in bedriging. Keunstmjittige feardigens is in masine dy't in searje prosessen leard is om út te fieren, dat kin alles wêze fan in automatyske kofjesetapparaat oant trajektsysteem op in kearnwapen. Dizze masines binne krêftich, mar kin net wurkje op har eigen; se binne in útwreiding fan 'e minsklike bedriging foar it oerlibjen, om't se moatte wurde eksploitearre of "wielded" troch in minske. 

Dit betsjut net dat se gjin bedriging binne. De resinte dea fan in bestjoerder yn Florida, dy't de autopilot fan 'e auto by ûngelok in frachtwein oan'e efterkant sette ûnder it riden, waard troch in protte oankundige as de earste dea troch de hannen fan Artificial Intelligence. Yn werklikheid wie it in oare yn 'e lange list fan tafallige deaden feroarsake troch keunstmjittige feardigens. Bygelyks, in pacemaker is in keunstmjittich betûfte masine. It is programmearre om patroanen te sjen yn 'e hertslach fan' e brûker en te reagearjen troch it hert te skokken om it te tikjen sa't it moat. Doe't se yn 'e 1970's foar it earst breed beskikber waarden, fûn in stúdzje yn Oregon USA dat 10% fan pacemakers yn 'e earste moanne mislearre. Spitigernôch is it net wierskynlik dat de dragers fan dizze pacemakers op 'e tiid nei in sikehûs kinne rinne. Jo kinne ien fan dizze deaden net oan AI sette, om't d'r gjin kweade bedoeling wie, it mislearre gewoan de taak dy't minsken it programmearre om te dwaan. 

In keunstmjittige yntelliginsje, oan 'e oare kant, kin in situaasje op himsels gearfetsje en de bêste kursus fan aksje diktearje op basis fan wat it hat leard fan ferlykbere foarfallen, of fan in databank grutter dan minsklike kennis. Bygelyks, it is faak sein, as in AI yn 'e lieding fan' e ierde soe wurde pleatst, soe it 'Perfect Recall' kinne brûke út 'e heule skiednis fan' e ierde om de bêste oplossing te finen foar elk probleem dat it soe tsjinkomme. Fred Popowich ferklearre: "Dizze masines binne yn 'e lêste ieu grutter en machtiger wurden, om't komputerkrêft machtiger en tagonkliker wurden is foar mear minsken." Mear minsken betsjut mear gegevens, en mear gegevens betsjut mear ûnderfining dizze masines kinne lûke ideeën út. As sadanich foarmje se no in gruttere bedriging dan se ea hawwe. 

AI dy't kontrôle oer de ierde nimt is sûnt 1921 besprutsen - faaks op in negative manier. As de rjochtline fan 'e kompjûter wie om de langstme fan' e minske te garandearjen, soe ús fuortbestean wis wêze, krekt? No, wiswier, de earste stap dy't in AI soe nimme as de regearingen fan 'e ierde jûn wurde soe wêze om op syn minst ien tsiende fan' e minsklike befolking te slachten. Troch logika te wurkjen, soe it sjen hoefolle fan 'e wrâldproblemen komme út in tekoart oan middels om rûn te gean en konkludearje dat ús bêste hope op oerlibjen in wrâldwide preening fan 'e minsklike befolking soe wêze.  

In oar foardiel AI hat oer minsken, dy't fergruttet harren bedriging foar ús is, bias; of mear, harren hiele gebrek oan it. In keunstmjittich betûfte masine kin programmearje om geunst te toanen oan it iene as it oare, as ien of oare groep minsken. In krêftige keunstmjittige yntelliginsje soe witte dat de bêste manier om folslein oan logika te jaan soe wêze om elke foaroardielen of foarkar foar minsken te negearjen. Mei dat yn gedachten soe wiere AI in heul echte bedriging foarmje. It soe reden wêze dat de bêste manier om it minsklik oerlibjen te garandearjen is te garandearjen dat it miljeu wêryn it libbet itselde bliuwt en de bêste manier om dat te garandearjen is om minsken te ferwiderjen. 

De minsklike bedriging  

Spitigernôch is in folle mear tiid droegen en substansjele bedriging foar it fuortbestean fan ús soarte krekt dat: ús soarte. Lang foar dokumintearre skiednis hawwe minsken om letterlik elke reden inoar fermoarde mei in roekeleas ferlitten. Yn 'e moderne tiid hawwe wy ús wat fierder ûntwikkele (humor my), mar dizze ûntjouwings hawwe laat ta in nij soarte fan bedriging: ûnbedoelde ferneatiging troch minsklike flater.  

It minsklik ras is yn 'e lêste 200 jier eksponentiell groeid yn in taryf dat wy noch noait earder sjoen hawwe. Dit hat laat ta wat geweldige foarútgong yn kommunikaasje, wat ús op syn beurt tastien hat om op te hâlden hieltyd sa gewelddiedich foar elkoar te wêzen. In riedsel dat earder allinnich troch oarloch oplost wurde koe, kin no troch folle mear minsken besprutsen wurde. Uteinlik binne mear geasten beskikber om te tinken oan in oplossing dy't skea feroarsaket foar it minste oantal minsken. 

De Lange Shot 

De wichtichste bedriging foar it minskdom, fan 'e minske, is ús ûnfermogen by it behanneljen fan ús kreaasjes. De lieding foar de bedriging dy't wy foar ús trochgeande oerlibjen foarmje, is it Chatham House-rapport 'Too Close For Comfort', in skriklike 30-pagina lêzen oer hoe faak nukleêre wapens fan massa ferneatiging hast per ongeluk ynset binne. Fan 'e trettjin neamd tichtby nukleêre ynset, seis kinne direkt wurde taskreaun oan minsklike flater. Dit is in perfekt foarbyld fan hoe't minsken net yn steat binne om har skeppingen te kontrolearjen koe hawwe laat ta de ultime ferneatiging fan 'e minskheid (en al it oare foar dy saak). 

De twadde bedriging om te beskôgjen is dy fan klimaatferoaring. Der is in protte oer dit ûnderwerp skreaun; ûnnoadich te sizzen, ik sil de legioenen fan wittenskippers en har desennia fan ûndersyk net rjocht dwaan yn in artikel lykas dit. Wat ik sizze kin is dat de ûngemaklike wierheid dêrfan is dat wy de globale temperatueren ferheegje, dy't ekosystemen ferneatigje, wat op syn beurt in bedriging is foar ús trochgeande oerlibjen. Yn essinsje is it net in bedriging safolle as in oanhâldend ferdjipjen fan kwestje dy't al in bedriging is oertroffen, lykas it eins bart. 

It lêste wurd oer minsklike inkompetinsje dy't ús ultime ûndergong feroarsake is oerbefolking. Lykas ik sei, hat ús befolking eksponinsjele groei sjoen yn 'e lêste 200 jier nei de Yndustriële Revolúsje, en de foarútgong yn sûnenssoarch dy't it levere hawwe ús tastien om langer te libjen en feiliger te reprodusearjen. Oerbefolking is in bedriging, om't wy de middels rap útgroeie dy't ús kinne stypje. As wy nei in bepaald punt groeid binne, kinne wy ​​ússels net langer ûnderhâlde.