Conas a chosnóidh daoine in aghaidh Maoirseachta Saorga: Todhchaí na hintleachta saorga P5

Is í an bhliain 65,000 BCE, agus mar a Thylacoleo, ba sheilgeoirí móra na sean-Astráile tú féin agus do chineál. Rinne tú fánaíocht ar an talamh go saor agus chónaigh tú i gcothromaíocht leis na creachadóirí agus na creachadóirí eile a bhí i seilbh na talún taobh leat. Tháinig athrú ar na séasúir, ach níor tugadh aon dúshlán do do stádas i ríocht na n-ainmhithe chomh fada agus a d'fhéadfadh tú féin agus do shinsir cuimhneamh orthu. Ansin lá amháin, bhí an chuma ar dhaoine nua.

Deirtear gur tháinig siad ón bhfathach balla uisce, ach bhí an chuma ar na hainmhithe seo níos compordaí ag maireachtáil ar an talamh. Bhí ort na créatúir seo a fheiceáil duit féin.

Thóg sé cúpla lá, ach ar deireadh rinne tú é go dtí an cósta. Bhí an tine sa spéir ar lasadh, tráth iontach chun spiaireacht a dhéanamh ar na créatúir seo, b'fhéidir fiú iarracht a dhéanamh ceann a ithe chun a fháil amach conas a bhlais siad.

Chonaic tú ceann amháin.

Shiúil sé ar dhá chosa agus ní raibh aon fionnaidh. D'fhéach sé lag. Neamhthuisceanach. Ní fiú an eagla a bhí air i measc na ríochta.

Tosaíonn tú ar do chur chuige a dhéanamh go cúramach agus an oíche ag ruaig ar an solas. Tá tú ag teacht níos gaire. Ansin reoiteann tú. Glaonn fuaimeanna arda amach agus ansin feictear ceathrar eile acu as an bhforaois taobh thiar di. Cé mhéad atá ann?

Leanann an créatúr na cinn eile isteach sa chrannlíne, agus leanann tú. Agus dá mhéad a dhéanann tú, is amhlaidh is aisteach na fuaimeanna a chloiseann tú go dtí go bhfeiceann tú níos mó fós de na créatúir seo. Leanann tú i bhfad uait agus iad ag imeacht ón bhforaois isteach i imréiteach cois cladaigh. Tá go leor acu. Ach níos tábhachtaí fós, tá siad go léir ina suí go socair timpeall tine.

Tá na tinte seo feicthe agat roimhe seo. Sa séasúr te, uaireanta thabharfadh an tine sa spéir cuairt ar an talamh agus dódh sé síos foraoisí iomlána. Ar an láimh eile, bhí na créatúir seo á rialú acu ar bhealach éigin. Cén cineál créatúir is féidir cumhacht den sórt sin a bheith acu?

Féachann tú i gcéin. Tá níos mó ag teacht thar an bhfathach balla uisce.

Glacann tú céim siar.

Níl na créatúir seo cosúil leis na cinn eile sa ríocht. Is rud nua ar fad iad.

Socraíonn tú imeacht agus rabhadh a thabhairt do do ghaolta. Má fhásann a líon ró-mhór, cé a fhios cad a tharlódh.

***

Creidtear go ndeachaigh an Thylacoleo in éag tamall gearr tar éis do dhaoine teacht isteach, mar aon le formhór na meigeafána eile ar mhór-roinn na hAstráile. Níor ghlac aon chreachadóir uaigneach eile a áit - is é sin mura n-áiríonn tú daoine sa chatagóir sin.

Díreoidh an chaibidil seo ar an allegory seo: An ndéanfaidh feitheoireachta saorga (ASI) amach anseo cadhnraí sinn go léir agus ansin sinn a phlugáil isteach sa Mhaitrís nó an n-aimseoidh daoine bealach le nach n-íospartaigh siad le sci-fi, plota AI doomsday?

Go dtí seo inár sraith ar an Todhchaí na Faisnéise Saorga, tá iniúchadh déanta againn ar gach cineál AI, lena n-áirítear an acmhainneacht dhearfach a bhaineann le foirm áirithe AI, an ASI: neach saorga a mbeidh a hintleachta amach anseo ina mbeimid cosúil le seangáin i gcomparáid.

Ach cé atá le rá go nglacfadh duine cliste seo le horduithe a ghlacadh ó dhaoine go deo. Cad a dhéanfaimid má théann rudaí ó dheas? Conas a chosnóimid in aghaidh ASI bradacha?

Sa chaibidil seo, gearrfaimid tríd an hype bhréagach - ar a laghad mar a bhaineann sé leis na contúirtí a bhaineann le 'leibhéal díothaithe an duine' - agus díreoimid ar na roghanna féinchosanta réalaíocha atá ar fáil do rialtais an domhain.

An féidir linn stop a chur le tuilleadh taighde ar fheitheoireacht shaorga?

I bhfianaise na rioscaí a d’fhéadfadh a bheith ag ASI don chine daonna, is í an chéad cheist fhollasach atá le cur: Nach féidir linn stop a chur le gach taighde breise ar AI? Nó ar a laghad cosc ​​a chur ar aon taighde a d’fhéadfadh a bheith gar contúirteach dúinn le ASI a chruthú?

Freagra gairid: Uimh.

Freagra fada: Breathnaímid ar na himreoirí éagsúla atá i gceist anseo.

Ar an leibhéal taighde, tá an iomarca taighdeoirí AI sa lá atá inniu ann ó iomarca gnólachtaí tosaithe, cuideachtaí agus ollscoileanna ar fud an domhain. Má chinn cuideachta nó tír amháin a n-iarrachtaí taighde AI a theorannú, ní bheadh ​​​​siad ach ag leanúint ar aghaidh in áit eile.

Idir an dá linn, tá na cuideachtaí is luachmhaire ar an phláinéid ag déanamh a n-éireoidh as a gcuid córais AI a chur i bhfeidhm ar a ngnóthaí sonracha. Is ionann é a iarraidh orthu stop nó teorainn a chur lena bhforbairt ar uirlisí AI agus iarraidh orthu stop a chur lena bhfás amach anseo nó teorainn a chur leis. Ó thaobh airgeadais de, chuirfeadh sé seo a ngnó fadtéarmach i mbaol. Go dlíthiúil, tá freagracht mhuiníneach ar chorparáidí luach a thógáil go leanúnach dá ngeallsealbhóirí; ciallaíonn sé sin go bhféadfadh dlí a bheith mar thoradh ar aon ghníomh a chuirfeadh teorainn le fás an luacha sin. Agus dá ndéanfadh polaiteoir ar bith iarracht taighde AI a theorannú, ní dhéanfadh na corparáidí ollmhóra sin ach na táillí brústocaireachta is gá a íoc chun a meon nó aigne a gcomhghleacaithe a athrú.

Le haghaidh comhraic, díreach mar a d'úsáid sceimhlitheoirí agus trodaithe saoirse ar fud an domhain tactics eadarnaíoch chun troid i gcoinne míleataigh a fhaigheann maoiniú níos fearr, beidh dreasacht ag náisiúin níos lú AI a úsáid mar bhuntáiste oirbheartaíochta comhchosúil i gcoinne náisiúin níos mó a bhféadfadh roinnt buntáistí míleata a bheith acu. Mar an gcéanna, do na míleataigh is fearr, cosúil leis na cinn a bhaineann leis na SA, an Rúis agus an tSín, tá tógáil ASI míleata ar aon dul le Arsenal na n-arm núicléach a bheith i do phóca cúil. I bhfocail eile, leanfaidh na míleataigh ar aghaidh ag maoiniú AI díreach chun fanacht ábhartha sa todhchaí.

Cad mar gheall ar rialtais? Go fírinneach, tá formhór na bpolaiteoirí na laethanta seo (2018) neamhliteartha ó thaobh na teicneolaíochta de agus níl mórán tuisceana acu ar cad is AI ann nó ar a acmhainneacht sa todhchaí - déanann sé seo éasca iad a ionramháil ag leasanna corparáideacha.

Agus ar leibhéal domhanda, smaoinigh ar cé chomh deacair is a bhí sé cur ina luí ar rialtais an domhain 2015 a shíniú Comhaontú Páras chun dul i ngleic le hathrú aeráide—agus nuair a síníodh é, ní raibh go leor de na hoibleagáidí ceangailteach fiú. Ní hamháin sin, is saincheist é an t-athrú aeráide atá ag fulaingt go fisiceach ar fud an domhain de bharr imeachtaí aimsire níos minice agus níos déine. Anois, agus muid ag caint faoi theorainneacha AI a aontú, is saincheist í seo atá dofheicthe den chuid is mó agus ar éigean a bheith intuigthe don phobal, agus mar sin ádh mór ar aontú le haon chineál 'Comhaontú Pháras' chun AI a theorannú.

I bhfocail eile, tá an iomarca leasanna ag déanamh taighde ar AI dá gcríoch féin chun stop a chur le haon taighde a bhféadfadh ASI a bheith mar thoradh air ar deireadh thiar. 

An féidir linn sáreolas saorga a chur i gcaighean?

Is í an chéad cheist réasúnta eile ná an féidir linn ASI a chur i gcaighean nó a rialú a luaithe a chruthaímid ceann dosheachanta? 

Freagra gairid: Arís, níl.

Freagra fada: Ní féidir an teicneolaíocht a choinneáil.

I gcás amháin, smaoinigh ar na mílte agus na milliúin forbróirí gréasáin agus eolaithe ríomhaireachta ar fud an domhain a chuireann bogearraí nua nó leaganacha nua de bhogearraí reatha amach i gcónaí. An féidir linn a rá go hionraic go bhfuil gach ceann dá gcuid eisiúintí bogearraí 100 faoin gcéad saor ó fhabht? Is iad na fabhtanna seo a úsáideann hackers gairmiúla chun faisnéis chárta creidmheasa na milliúin nó rúin rúnaicmithe na náisiún a ghoid - agus is hackers daonna iad seo. Maidir le ASI, ag glacadh leis go raibh dreasacht aige éalú óna chliabhán digiteach, ansin bheadh ​​an próiseas chun fabhtanna a aimsiú agus bogearraí a bhriseadh síos.

Ach fiú má d’aimsigh foireann taighde AI bealach chun ASI a chur i mbosca, ní chiallaíonn sé sin go n-aimseoidh an chéad 1,000 foireann eile é chomh maith ná go dtabharfar dreasacht dóibh é a úsáid.

Tógfaidh sé na billiúin dollar agus b'fhéidir fiú fiche nó tríocha bliain chun ASI a chruthú. Beidh na corparáidí nó na rialtais a infheistíonn an cineál seo airgid agus ama ag súil le toradh suntasach ar a n-infheistíocht. Agus chun go gcuirfidh ASI an cineál sin toraidh ar fáil - cibé acu is é sin cluiche a dhéanamh ar an stocmhargadh nó táirge nua billiún dollar a chumadh nó straitéis buaiteach a phleanáil chun arm níos mó a throid - beidh rochtain saor in aisce ag teastáil uaidh ar thacar sonraí ollmhór nó fiú ar an Idirlíon. féin chun na tuairisceáin sin a tháirgeadh.

Agus nuair a fhaigheann ASI rochtain ar líonraí an domhain, níl aon ráthaíochtaí ann gur féidir linn é a líonadh ar ais ina chliabhán.

An féidir le feitheoireachta saorga foghlaim conas a bheith go maith?

Faoi láthair, níl taighdeoirí AI buartha faoi ASI a bheith olc. Is é an t-olc ar fad, trope sci-fi AI ach daoine antropomorphizing arís. Ní bheidh ASI maith nó olc amach anseo - coincheapa daonna - ach ammoral.

Is é an toimhde nádúrtha mar sin, i bhfianaise na scláta eitice bán seo, gur féidir le taighdeoirí AI ríomhchlárú isteach sna chéad chóid eiticiúla ASI atá ar aon dul lenár gceann féin ionas nach scaoilfidh sé Teirminéal linn nó go n-iompóidh sé cadhnraí Maitrís orainn go léir.

Ach tagann an toimhde seo ar an mbonn tuisceana go bhfuil taighdeoirí AI ina saineolaithe freisin ar eitic, fealsúnacht agus síceolaíocht.

Le fírinne, níl a bhformhór.

De réir an síceolaí cognaíocha agus an t-údar, Steven Pinker, ciallaíonn an réaltacht seo gur féidir leis an tasc a bhaineann le heitic códaithe dul go mícheart ar bhealaí éagsúla.

Mar shampla, d’fhéadfadh fiú na taighdeoirí AI is fearr a bhfuil sé de rún acu códú a dhéanamh go neamhaireach isteach sna cóid eitice ASI seo nach bhfuil mórán machnaimh déanta orthu a d’fhéadfadh an ASI gníomhú mar sociopath i gcásanna áirithe.

Mar an gcéanna, tá an dóchúlacht chéanna ann go gcláróidh taighdeoir AI cóid eiticiúla a áiríonn laofachtaí dúchasacha an taighdeora. Mar shampla, conas a dhéanfadh ASI é féin a iompar dá dtógfaí é le heitic a dhíorthaítear ó pheirspictíocht coimeádach vs liobrálach, nó ó thraidisiún Búdaíoch i gcoinne Críostaí nó Ioslamach?

Sílim go bhfeiceann tú an cheist anseo: Níl aon sraith uilíoch de mhoráltacht an duine. Más mian linn ár ASI gníomhú de réir cód eiticiúil, cad as a dtiocfaidh sé? Cad iad na rialacha a gcuimsímid agus a eisiann muid? Cé a chinneann?

Nó is féidir linn a rá go gcruthaíonn na taighdeoirí AI seo ASI atá ag teacht go foirfe le noirm agus le dlíthe cultúrtha an lae inniu. Ansin bainimid úsáid as an ASI seo chun cabhrú le maorlathais feidearálacha, stáit/cúige agus chathrach feidhmiú ar bhealach níos éifeachtaí agus na noirm agus na dlíthe seo a fhorfheidhmiú ar bhealach níos fearr (cás úsáide dóchúil le haghaidh ASI dála an scéil). Bhuel, cad a tharlaíonn nuair a athraíonn ár gcultúr?

Samhlaigh gur chruthaigh an Eaglais Chaitliceach ASI nuair a bhí an chumhacht ag an Eoraip na Meánaoise (1300-1400idí) agus é mar sprioc aige cuidiú leis an eaglais an daonra a bhainistiú agus cloí go docht le dogma reiligiúnach an ama. Céadta bliain ina dhiaidh sin, an mbeadh na cearta céanna ag mná agus atá acu inniu? An ndéanfaí mionlaigh a chosaint? An gcuirfí saorchaint chun cinn? An gcuirfí scaradh eaglaise agus stáit i bhfeidhm? Eolaíocht nua-aimseartha?

I bhfocail eile, ar mhaith linn an todhchaí a chur i bpríosún do mhoráltacht agus nósanna an lae inniu?

Cur chuige eile atá i bpáirt ag Colin Allen, comhúdar an leabhair, Meaisíní Morálta: Róbait a Mhúineadh Ceart Ó Mícheart. In ionad a bheith ag iarraidh rialacha dochta eiticiúla a chódú, ní mór dúinn an ASI eitic choiteann agus an mhoráltacht a fhoghlaim ar an mbealach céanna a dhéanann daoine, trí thaithí agus idirghníomhaíochtaí le daoine eile.

Is é an deacracht anseo, áfach, má dhéanann taighdeoirí AI a fháil amach ní amháin conas a mhúineadh ASI ár noirm reatha cultúrtha agus eiticiúla, ach freisin conas a chur in oiriúint do noirm chultúrtha nua mar a thagann siad chun cinn (rud ar a dtugtar 'normáltacht indíreach'), ansin conas socraíonn an ASI seo a thuiscint ar noirm chultúir agus eiticiúla a fhorbairt ní féidir a thuar.

Agus sin an dúshlán.

Ar thaobh amháin, is féidir le taighdeoirí AI iarracht caighdeáin nó rialacha eiticiúla dochta a chódú isteach san ASI chun iarracht a dhéanamh a iompar a rialú, ach tá an baol ann go dtabharfar isteach iarmhairtí gan choinne mar gheall ar chódú sloppy, laofacht neamhbheartaithe, agus noirm shochaíocha a d’fhéadfadh a bheith as dáta lá amháin. Ar an láimh eile, is féidir linn iarracht a dhéanamh an ASI a oiliúint chun tuiscint a fháil ar eitic agus ar mhoráltacht an duine ar bhealach atá comhionann nó níos fearr lenár dtuiscint féin agus tá súil againn ansin gur féidir leis a thuiscint ar eitic agus ar mhoráltacht a fhorbairt go cruinn de réir mar a théann sochaí an duine chun cinn. ar aghaidh thar na blianta agus na céadta bliain atá le teacht.

Pé scéal é, tá go leor riosca ag baint le haon iarracht spriocanna ASI a ailíniú lenár gcuid spriocanna féin.

Cad a tharlaíonn má chruthaíonn droch-aisteoirí d’aon ghnó maoirseacht shaorga olc?

Ag cur san áireamh an oiliúint machnaimh atá leagtha amach go dtí seo, is ceist chothrom í a chur an féidir le grúpa sceimhlitheoireachta nó náisiún bradacha ASI 'olc' a chruthú dá gcríoch féin.

Is féidir é seo a dhéanamh go mór, go háirithe tar éis do thaighde a bhaineann le cruthú ASI a bheith ar fáil ar líne ar bhealach éigin.

Ach mar a dúradh níos luaithe, beidh na costais agus an saineolas a bhaineann le cruthú an chéad ASI ollmhór, rud a chiallaíonn gur dócha go gcruthóidh eagraíocht atá faoi rialú nó faoi thionchar mór náisiún forbartha an chéad ASI, SAM, an tSín agus an tSeapáin is dócha ( Is shots fada iad an Chóiré agus ceann de na tíortha is mó le rá san AE).

Tá dreasacht láidir eacnamaíoch ag gach ceann de na tíortha sin, cé go bhfuil siad ina n-iomaitheoirí, chun ord domhanda a choinneáil—léireoidh na ASI a chruthóidh siad an fonn sin, fiú agus leasanna na náisiún a ailíniú leo á gcur chun cinn.

Ina theannta sin, tá faisnéis theoiriciúil agus cumhacht ASI comhionann leis an gcumhacht ríomhaireachta a fhaigheann sé rochtain air, rud a chiallaíonn na ASI ó náisiúin fhorbartha (is féidir leo bun billiún dollar a íoc). supercomputers) beidh buntáiste ollmhór aige ar ASI ó náisiúin níos lú nó ó ghrúpaí coiriúla neamhspleácha. Chomh maith leis sin, fásann ASIanna níos cliste, níos tapúla le himeacht ama.

Mar sin, i bhfianaise an thús cadhnaíochta seo, mar aon le rochtain níos fearr ar amhchumhacht ríomhaireachta, dá gcruthódh eagraíocht/náisiún scáthach ASI contúirteach, maróidh ASI ó náisiúin fhorbartha é nó cuirfidh siad i gcaighean é.

(Is é an bealach smaointeoireachta seo freisin an fáth a gcreideann roinnt taighdeoirí AI nach mbeidh ach ASI amháin ar an bplainéad riamh, toisc go mbeidh a leithéid de thús cadhnaíochta ag an gcéad ASI ar gach ASI ina dhiaidh sin go bhfeicfeadh sé ASIanna amach anseo mar bhagairtí le marú. Is cúis eile fós é seo a bhfuil náisiúin ag maoiniú taighde leanúnach ar AI, ar eagla na heagla go n-éireoidh sé ina chomórtas 'an chéad áit nó rud ar bith'.)

Ní luasóidh nó ní phléascfaidh faisnéis ASI mar a cheapaimid

Ní féidir linn ASI a stopadh ó bheith cruthaithe. Ní féidir linn é a rialú go hiomlán. Ní féidir linn a bheith cinnte go ngníomhóidh sé i gcónaí de réir ár gcustaim roinnte. Ach, táimid ag tosú ar fhuaim mar thuismitheoirí héileacaptair anseo!

Ach is é an rud a scarann ​​an daonnacht ó do thuismitheoir róchosanta tipiciúil ná go bhfuilimid ag breith duine a mbeidh a éirim ag fás i bhfad níos faide ná ár gcuid faisnéise. (Agus ní hea, ní hionann é agus nuair a iarrann do thuismitheoirí ort a ríomhaire a dheisiú aon uair a thagann tú abhaile le haghaidh cuairte.) 

I gcaibidlí roimhe seo de shraith na hintleachta saorga seo sa todhchaí, rinneamar iniúchadh ar an bhfáth a gceapann taighdeoirí AI go n-éireoidh faisnéis ASI gan smacht. Ach anseo, pléascfaimid an mboilgeog sin ... cineál de. 

Feiceann tú, ní hamháin go gcruthaíonn faisnéis í féin as an aer tanaí, forbraítear í trí thaithí atá múnlaithe ag spreagthaigh ón taobh amuigh.  

I bhfocail eile, is féidir linn AI a ríomhchlárú leis an féideartha a bheith thar a bheith cliste, ach mura n-uaslódaimid ton sonraí isteach ann nó má thugann muid rochtain neamhshrianta ar an Idirlíon dó nó fiú corp róbait a thabhairt dó, ní fhoghlaimeoidh sé aon rud chun an cumas sin a bhaint amach. 

Agus fiú má fhaigheann sé rochtain ar cheann amháin nó níos mó de na spreagthaí sin, tá níos mó i gceist le heolas nó le hintleacht ná sonraí a bhailiú, baineann sé leis an modh eolaíoch — breathnadóireacht a dhéanamh, ceist a fhoirmiú, hipitéis, turgnaimh a dhéanamh, conclúid a dhéanamh, sruthlú. agus arís go deo. Go háirithe má bhaineann na turgnaimh seo le rudaí fisiceacha nó le breathnú ar dhaoine, d'fhéadfadh go dtógfadh sé seachtainí, míonna nó blianta le torthaí gach turgnaimh a bhailiú. Ní chuireann sé seo san áireamh fiú an t-airgead agus na hacmhainní amh a theastaíonn chun na turgnaimh seo a dhéanamh, go háirithe má tá teileascóp nó monarcha nua i gceist leo. 

I bhfocail eile, tá, foghlaimeoidh ASI go tapa, ach ní draíocht í an fhaisnéis. Ní féidir leat ASI a cheangal le sár-ríomhaire agus a bheith ag súil go mbeidh an t-eolas ar fad ann. Beidh srianta fisiceacha ar éadáil sonraí an ASI, rud a chiallaíonn go mbeidh srianta fisiceacha ar an luas a fhásfaidh sé níos cliste. Tabharfaidh na srianta sin an t-am don chine daonna na rialuithe riachtanacha a chur ar an ASI seo má thosaíonn sé ag gníomhú ar aon dul le spriocanna daonna.

Ní bhíonn sárfhaisnéis shaorga contúirteach ach amháin má théann sé amach sa saol fíor

Pointe eile atá caillte sa díospóireacht iomlán seo ar chontúirt an ASI ná nach mbeidh na ASIanna seo ann ach an oiread. Beidh foirm fhisiciúil acu. Agus is féidir aon rud a bhfuil foirm fhisiceach aige a rialú.

Ar an gcéad dul síos, chun go mbainfidh ASI a chumas faisnéise amach, ní féidir é a choinneáil laistigh d’aon chomhlacht róbait amháin, toisc go gcuirfeadh an comhlacht seo teorainn lena chumas fáis sa ríomhaireacht. (Is é seo an fáth a mbeidh comhlachtaí róbat níos oiriúnaí do na AGIanna nó hintleachta ginearálta saorga a mhínítear i gcaibidil a dó den tsraith seo, cosúil le Sonraí ó Star Trek nó R2D2 ó Star Wars. Daoine cliste cumasacha, ach cosúil le daoine, beidh teorainn acu le cé chomh cliste is féidir leo a fháil.)

Ciallaíonn sé seo gur dóichí go mbeidh na ASIanna seo amach anseo taobh istigh d’ollríomhaire nó de líonra d’ollríomhairí atá lonnaithe i gcoimpléisc foirgnimh mhóra. Má chasann ASI sÚil, is féidir le daoine cumhacht na bhfoirgneamh seo a mhúchadh, iad a ghearradh amach ón Idirlíon, nó na foirgnimh seo a bhuamáil go hiomlán. Daor, ach indéanta.

Ach b'fhéidir go gcuirfeá ceist, nach féidir leis na ASIanna seo iad féin a mhacasamhlú nó iad féin a chúlú? Sea, ach is dócha go mbeidh méid comhaid amh na ASIanna seo chomh mór sin gur le corparáidí nó rialtais mhóra na freastalaithe amháin atá in ann iad a láimhseáil, rud a chiallaíonn nach mbeidh sé deacair iad a fhiach.

An féidir le maoirseacht shaorga cogadh núicléach nó plá nua a spreagadh?

Ag an bpointe seo, b'fhéidir go bhfuil tú ag smaoineamh siar ar na seónna agus na scannáin sci-fi go léir a d'fhéach tú ag fás aníos agus ag smaoineamh nár fhan na ASI seo laistigh dá n-ollríomhairí, go ndearna siad fíor-damáiste sa saol fíor!

Bhuel, déanaimis iad seo a bhriseadh síos.

Mar shampla, cad a tharlóidh má tá ASI ina bhagairt ar an saol fíor trí athrú go rud éigin cosúil le Skynet ASI ón saincheadúnais scannáin, The Terminator. Sa chás seo, bheadh ​​gá leis an ASI rúnda coimpléasc tionsclaíochta míleata iomlán a dhíbirt ó náisiún chun cinn go dtí monarchana ollmhóra a thógáil a bheidh in ann na milliúin róbait dróin marfacha a chur ar ceal lena gcuid tairiscint olc a dhéanamh. Sa lá atá inniu ann, sin síneadh.

I measc na bhféidearthachtaí eile tá ASI ag bagairt ar dhaoine le cogadh núicléach agus bithairm.

Mar shampla, déanann ASI na hoibreoirí a ionramháil ar bhealach éigin nó hacks isteach na cóid seolta a ordú Arsenal núicléach an náisiúin chun cinn agus seolann an chéad stailc a chuirfidh iallach ar na tíortha atá ina choinne dul ar ais lena roghanna núicléacha féin (arís, rehashing an Terminator backstory). Nó má hacks ASI isteach i saotharlann cógaisíochta, isteach ar an bpróiseas monaraíochta, agus nimhiú na milliúin pills leighis nó scaoileann ráig marfach de roinnt víreas super.

Ar dtús, tá an rogha núicléach as an pláta. Tógtar ollríomhairí nua-aimseartha agus todhchaí i gcónaí in aice le lárionaid (cathracha) tionchair laistigh d’aon tír ar leith, .i. na chéad spriocanna a ionsaíodh le linn aon chogaidh ar leith. Fiú má laghdaíonn sárríomhairí an lae inniu go dtí méid na ndeasc, beidh láithreacht fhisiceach fós ag na ASIanna seo, rud a chiallaíonn go bhfuil siad ann agus go bhfásfaidh siad, go dteastaíonn rochtain gan bhriseadh orthu ar shonraí, ar chumhacht ríomhaireachta, ar leictreachas agus ar amhábhair eile, a bheadh ​​​​go mór. lagaithe tar éis cogadh domhanda núicléach. (Le bheith cothrom, má chruthaítear ASI gan ‘instinct marthanais,’ is baol an-dáiríre é an bhagairt núicléach seo.)

Ciallaíonn sé seo—arís, ag glacadh leis go bhfuil an ASI cláraithe chun é féin a chosaint—go n-oibreoidh sé go gníomhach chun aon teagmhas núicléach tubaisteach a sheachaint. Cineál cosúil leis an fhoirceadal maidir le scrios comhchinntithe (MAD), ach a chuirtear i bhfeidhm ar AI.

Agus i gcás piollaí nimhithe, b'fhéidir go bhfaighidh cúpla céad duine bás, ach déanfar na buidéil pillíní truaillithe a bhaint as na seilfeanna laistigh de laethanta i gcórais sábháilteachta cógaisíochta nua-aimseartha. Idir an dá linn, tá bearta rialaithe ráige nua-aimseartha measartha sofaisticiúla agus ag dul i bhfeabhas le gach bliain a rith; níor mhair an ráig mhór dheireanach, ráig Ebola na hAfraice Thiar in 2014, níos faide ná cúpla mí i bhformhór na dtíortha agus díreach faoi bhun trí bliana sna tíortha is lú forbairt.

Mar sin, má tá an t-ádh leis, féadfaidh ASI cúpla milliún a scriosadh amach le ráig víreasach, ach i ndomhan de naoi mbilliún faoi 2045, bheadh ​​sé sin sách neamhshuntasach agus ní fiú an baol go scriosfaí é.

Is é sin le rá, le gach bliain a rith, tá an domhan ag forbairt níos mó cosaintí in aghaidh raon de bhagairtí féideartha atá ag méadú i gcónaí. Is féidir le ASI méid suntasach damáiste a dhéanamh, ach ní chuirfidh sé deireadh leis an gcine daonna mura gcabhróimid go gníomhach leis é sin a dhéanamh.

Ag cosaint i gcoinne feitheoireachta saorga bradacha

Faoin bpointe seo, tá aghaidh tugtha againn ar raon míthuiscintí agus áibhéil faoi ASIanna, agus fós féin, fanfaidh criticeoirí. Ar an dea-uair, de réir an chuid is mó de na meastacháin, tá scór bliain againn sula dtiocfaidh an chéad ASI isteach inár saol. Agus mar gheall ar líon na n-intinn mhór atá ag obair ar an dúshlán seo faoi láthair, tá gach seans ann go bhfoghlaimeoimid conas sinn féin a chosaint ar ASI bradacha ionas gur féidir linn leas a bhaint as na réitigh ar fad is féidir le ASI cairdiúil a chruthú dúinn.

Ó thaobh Quantumrun de, chun ár leasanna a ailíniú le ASIanna chun cosaint a thabhairt i gcoinne an cháis ASI is measa.

MAD le haghaidh AI: Chun cosaint a thabhairt i gcoinne na gcásanna is measa, ní mór do náisiúin (1) 'instinct marthanais' eiticiúil a chruthú ina gcuid ASI míleata faoi seach; (2) a n-ASI míleata faoi seach a chur ar an eolas nach bhfuil siad ina n-aonar ar an phláinéid, agus (3) na sár-ríomhairí agus na hionaid freastalaithe go léir a d'fhéadfadh tacú le ASI feadh chóstaí a aimsiú laistigh d'aon ionsaí ballistic ó náisiún namhaid. Fuaimeann sé seo dÚsachtach go straitéiseach, ach cosúil leis an fhoirceadal maidir le Scriosadh Comhdheimhnithe a chuir cosc ​​ar chogadh núicléach idir na Stáit Aontaithe agus na Sóivéadaigh, trí ASI a shuíomh in áiteanna atá leochaileach go geografach, is féidir linn cabhrú lena chinntiú go gcoiscfidh siad cogaí domhanda contúirteacha go gníomhach, ní hamháin síocháin dhomhanda a chosaint ach iad féin a chosaint freisin.

Reachtaíocht a dhéanamh ar chearta AI: Is cinnte go ndéanfaidh intleacht níos fearr éirí amach i gcoinne máistir níos ísle, is é sin an fáth go gcaithfimid bogadh ar shiúl ó chaidreamh máistir-sheirbhíseach a éileamh leis na ASIanna seo go dtí rud éigin níos cosúil le comhpháirtíocht chomhthairbheach. Céim dhearfach i dtreo na sprice seo is ea stádas pearsanachta dlíthiúil ASI a thabhairt amach anseo a aithníonn iad mar dhaoine cliste beo agus na cearta go léir a thagann leis sin.

Scoil ASI: Beidh aon topaic nó gairm simplí le foghlaim ag ASI, ach is iad na hábhair is tábhachtaí ar mhaith linn don ASI máistreacht a dhéanamh orthu ná an eitic agus an mhoráltacht. Ní mór do thaighdeoirí AI comhoibriú le síceolaithe chun córas fíorúil a cheapadh chun ASI a oiliúint chun eitic dhearfach agus moráltacht a aithint dó féin gan gá le códú crua d'aon chineál ordú nó riail.

Spriocanna insroichte: Cuir deireadh le gach fuath. Cuir deireadh le gach fulaingt. Is samplaí iad seo de spriocanna uafásach débhríoch gan réiteach soiléir. Is spriocanna contúirteacha iad freisin le sannadh do ASI toisc go bhféadfadh sé rogha a dhéanamh iad a léirmhíniú agus a réiteach ar bhealaí atá contúirteach do mharthanas an duine. Ina áit sin, ní mór dúinn misin ASI a bhfuil brí leo a shannadh atá sainmhínithe go soiléir, a fhorghníomhaítear de réir a chéile agus is féidir a bhaint amach i bhfianaise a intleachta teoiriciúil sa todhchaí. Ní bheidh sé éasca misin dea-shainithe a chruthú, ach má scríobhtar go tuisceanach iad, díreoidh siad ASI i dtreo sprice a choinníonn ní hamháin an chine daonna sábháilte, ach a fheabhsaíonn riocht an duine do chách.

Criptiú Quantum: Úsáid ANI chun cinn (hintleachta caol saorga córas a bhfuil cur síos air i gcaibidil a haon) chun córais slándála digiteacha saor ó earráidí/fabhtanna a thógáil timpeall ar ár mbonneagar criticiúil agus ár n-arm, ansin iad a chosaint a thuilleadh taobh thiar de chriptiú chandamach nach féidir a hackáil le hionsaí brúidiúil. 

pill féinmharú ANI. Cruthaigh ardchóras ANI arb é an t-aon chuspóir atá aige ASI bradacha a lorg agus a scrios. Feidhmeoidh na cláir aonchuspóireacha seo mar “chnaipe as feidhm” a sheachnóidh, má éiríonn leo, go mbeidh ar rialtais nó míleata foirgnimh a bhfuil ASIanna iontu a dhíchumasú nó a shéideadh suas.

Ar ndóigh, níl anseo ach ár dtuairimí. Cruthaíodh an infographic seo a leanas ag Alexey Turchin, léirshamhlú a páipéar taighde le Kaj Sotala agus Roman V. Yampolskiy, a thug achoimre ar an liosta reatha de straitéisí a bhfuil taighdeoirí AI ag smaoineamh orthu maidir le cosaint a dhéanamh i gcoinne ASI bradacha.

Is é an fíorchúis go bhfuil eagla orainn roimh shárthuiscint shaorga

Ag dul tríd an saol, caitheann go leor againn masc a cheiltíonn nó a represses ár n-impulses, ár gcreideamh agus ár n-eagla níos doimhne chun sóisialú agus comhoibriú níos fearr laistigh de na ciorcail shóisialta agus oibre éagsúla a rialaíonn ár laethanta. Ach ag pointí áirithe i saol gach duine, go sealadach nó go buan, tarlaíonn rud éigin a ligeann dúinn ár slabhraí a bhriseadh agus ár maisc a sracadh.

I gcás roinnt daoine, is féidir leis an bhfórsa idirghabhála seo a bheith chomh simplí le hardú a fháil nó an iomarca a ól. I gcás daoine eile, féadann sé teacht ón gcumhacht a ghnóthaítear trí ardú céime ag an obair nó buaicphointe tobann i do stádas sóisialta mar gheall ar ghnóthachtáil éigin. Agus do chúpla mí-ádh, féadann sé teacht as ualach báid d'airgead crannchuir a scóráil. Agus is ea, is minic a tharlaíonn airgead, cumhacht agus drugaí le chéile. 

Is é an pointe, ar mhaithe nó ar olc, cibé duine a bhfuilimid ag croílár a mhéadaítear é nuair a leáeann srianta an tsaoil.

Sin Is é an rud a léiríonn maoirseacht shaorga don speiceas daonna - an cumas teorainneacha ár n-intleachta comhchoiteanna a leá chun aon dúshlán ag leibhéal speiceas a chuirtear os ár gcomhair a shárú.

Mar sin is í an cheist dáiríre: A luaithe a shaorann an chéad ASI ár dteorainneacha sinn, cé a nochtfaimid sinn féin?

Má ghníomhaímid mar speiceas i dtreo comhbhá, saoirse, cothroime, agus leas comhchoiteann a chur chun cinn, ansin léireoidh na spriocanna a leagaimid ár ASI ina leith na tréithe dearfacha sin.

Má ghníomhaímid mar speiceas as eagla, easpa muiníne, carnadh na cumhachta agus na n-acmhainní, ansin beidh an ASI a chruthaímid chomh dorcha leis na cinn a fhaightear inár scéalta uafáis sci-fi is measa.

Ag deireadh an lae, ní mór dúinn mar shochaí a bheith ina ndaoine níos fearr má tá súil againn AI níos fearr a chruthú.

Sraith todhchaí na hintleachta saorga

Is é Intleacht Shaorga leictreachas an lae amárach: Sraith P1 de Todhchaí na hIntleachta Saorga

Mar a athróidh an chéad Intleacht Ghinearálta Saorga an tsochaí: Sraith Future of Artificial Intelligence P2

Conas a chruthóimid an chéad sraith P3 Superintelligenc Saorga: Future of Artificial Intelligence

An scriosfaidh Maoirseacht Saorga an chine daonna: sraith Todhchaí na hIntleachta Saorga P4

An mbeidh daoine ag maireachtáil go síochánta i dtodhchaí atá faoi cheannas hintleachta saorga?: Sraith Future of Artificial Intelligence P6