Superadimen artifizial batek gizadia suntsituko al du? Adimen artifizialaren etorkizuna P4

Asmakizun jakin batzuk daude nazioek guztiak barne hartzen dituztenak. Horiek asmakizunak dira, non dena lehen izatearen araberakoa den, eta ezer gutxiagok nazio baten biziraupenerako mehatxu estrategiko eta hilkor bat suposa dezake.

Historia definitzen duten asmakizun hauek ez dira maiz etortzen, baina gertatzen direnean, mundua gelditzen da eta aurreikus daitekeen etorkizuna lausotu egiten da.

Horrelako azken asmakizuna Bigarren Mundu Gerraren garairik txarrenean sortu zen. Naziak mundu zaharreko fronte guztietan irabazten ari ziren bitartean, mundu berrian, zehazki, Los Alamosetik kanpo dagoen armada sekretu baten barruan, aliatuak gogor ari ziren lanean arma batekin arma guztiak amaitzeko.

Proiektua txikia zen hasieran, baina gero hazi zen AEB, Erresuma Batua eta Kanadako 130,000 pertsona enplegatuz, garai hartako munduko pentsalari handienetako asko barne. Manhattan Proiektua kode izendatu eta aurrekontu mugagabea emanda —23 mila milioi dolar gutxi gorabehera 2018ko dolar—, giza asmamenaren armada honek lehen bonba nuklearra sortzea lortu zuen azkenean. Handik gutxira, Bigarren Mundu Gerra bi kolpe atomikorekin amaitu zen.

Arma nuklear hauek aro atomikoari hasiera eman zioten, energia-iturri sakon berri bat sartu zuten eta gizateriari minutu batzuetan bere burua desagertzeko gaitasuna eman zioten, Gerra Hotza izan arren saihestu genuen zerbait.

Superadimen artifizial baten sorrera (ASI) beste asmakizun bat da, zeinaren boterea (positibo zein suntsitzailea) bonba nuklearra askoz gainditzen duena.

Adimen Artifizialaren Etorkizuna serieko azken kapituluan, ASI bat zer den eta ikertzaileek egunen batean bat eraikitzeko asmoa duten aztertu dugu. Kapitulu honetan, adimen artifizialaren (AI) ikerketak burutzen dituzten erakundeak aztertuko ditugu, zer nahi duen ASI batek gizakiaren antzeko kontzientzia lortzen duenean eta nola mehatxa dezakeen gizateria gaizki kudeatzen bada edo norbaiten eraginpean geratzen bada. erregimen ez hain politak.

Nor ari da lanean superadimen artifizial bat eraikitzeko?

ASI baten sorrerak giza historiarentzat zein garrantzitsua izango den eta zein abantaila emango dion bere sortzaileari, ez da harritzekoa izan behar talde asko zeharka proiektu honetan lanean ari direla jakitea.

(Zeharka esanda, azkenean lehenengoa sortuko duen AI ikerketan lan egitea esan nahi dugu adimen artifizial orokorra (AGI), horrek berak lehen ASIra eramango du handik gutxira.)

Hasteko, goiburuei dagokienez, AI ikerketa aurreratuko lider argiak AEBetako eta Txinako teknologia-enpresa nagusiak dira. AEBen aurrean, Google, IBM eta Microsoft bezalako enpresak sartzen dira, eta Txinan, Tencent, Baidu eta Alibaba bezalako enpresak. Baina AI ikertzea nahiko merkea denez zerbait fisikoa garatzearekin alderatuta, erreaktore nuklear hobe bat bezalakoa, hau ere erakunde txikiagoek lehia dezaketen esparrua da, hala nola unibertsitateak, startupak eta... erakunde itzaltsuak (erabili zure Bond gaiztoaren irudimena hori).

Baina eszena atzean, AI ikerketaren atzean dagoen benetako bultzada gobernuek eta haien militarrengandik dator. ASI bat sortzen lehena izatearen sari ekonomiko eta militarra handiegia da (behean azaltzen dena) atzean geratzeko arriskua izateko. Eta azkena izateko arriskuak onartezinak dira, erregimen jakin batzuentzat behintzat.

Faktore hauek kontuan hartuta, AI ikertzearen kostu nahiko baxua, AI aurreratuaren aplikazio komertzial infinituak eta ASI bat sortzen lehena izatearen abantaila ekonomiko eta militarra kontuan hartuta, AI ikertzaile askok uste dute ASI bat sortzea saihestezina dela.

Noiz sortuko dugu superadimen artifizial bat

AGIei buruzko gure kapituluan, aipatu genuen nola AI ikertzaile nagusien inkestak uste zuen lehen AGIa modu baikor sortuko genuela 2022rako, modu errealistan 2040rako eta ezkor 2075erako.

Eta gurean azken kapitulua, azaldu genuen nola ASI bat sortzea, oro har, AGI bati bere burua infinituan hobetu eta horretarako baliabideak eta askatasuna ematearen ondorioa den.

Hori dela eta, AGI bat oraindik hamarkada batzuk asmatzeko behar bada ere, ASI bat sortzeak urte gutxi batzuk besterik ez ditu behar.

Puntu hau iradokitako "informatika gainditze" kontzeptuaren antzekoa da paper bat, Luke Muehlhauser eta Nick Bostrom AI pentsalari nagusiek elkarrekin idatzia. Funtsean, AGI baten sorrerak konputazio-ahalmenaren egungo aurrerapenaren atzetik jarraitzen badu, Moore-ren Legeak bultzatuta, orduan ikertzaileek AGI bat asmatzen dutenerako, horrenbeste konputazio-ahalmen merkea egongo da eskuragarri, non AGIk ahalmena izango duela. azkar salto egin behar du ASI mailara.

Beste era batera esanda, azkenik, teknologia-enpresa batzuek lehen benetako AGI asmatu zutela iragartzen duten titularrak irakurtzen dituzunean, espero ezazu lehen ASIaren iragarpena handik gutxira.

Superadimen artifizial baten buruan?

Ados, beraz, egiaztatu dugu poltsiko sakonak dituzten jokalari handi asko IA ikertzen ari direla. Eta, ondoren, lehenengo AGI asmatu ondoren, munduko gobernuek (militarrak) ASI baten aldeko bultzada argitzen ikusiko dugu handik gutxira, AI globala (ASI) arma-lasterketa irabazten lehenak izateko.

Baina behin ASI hau sortuta, nola pentsatuko du? Zer nahi izango du?

Txakur jatorra, elefante solidarioa, robot polita—gizaki gisa, gauzekin erlazionatzen saiatzeko ohitura dugu antropologiaz, hau da, gizakien ezaugarriak gauzei eta animaliei aplikatzea. Horregatik, jendeak ASI bati buruz pentsatzean duen lehen suposizio naturala hauxe da: behin nolabait kontzientzia hartzen duenean, gurekin antzera pentsatu eta jokatuko duela.

Tira, ez derrigorrez.

Pertzepzioa. Batetik, gehienek ahaztu ohi dutena da pertzepzioa erlatiboa dela. Pentsatzeko moduak gure inguruneak, gure esperientziek eta, batez ere, gure biologiak moldatzen dituzte. Lehenengoan azaldu zen hirugarren kapitulua gurea Giza eboluzioaren etorkizuna seriea, kontuan hartu gure garunaren adibidea:

Gure garuna da inguratzen gaituen munduari zentzua ematen laguntzen diguna. Eta hori ez du gure buruen gainetik flotatzen, ingurura begiratuz eta Xbox kontrolagailu batekin kontrolatzen gaituzte; hau kutxa baten barruan harrapatuta (gure zuloak) eta gure zentzumen-organoetatik ematen den informazioa prozesatzen du: gure begiak, sudurra, belarriak, etab.

Baina gorrek edo itsuek gorputz gaitasun handiko pertsonekin alderatuta askoz ere bizitza txikiagoa bizi duten bezala, beren ezintasunak mundua hautemateko duen moduan jartzen dituen mugak direla eta, gauza bera esan daiteke gizaki guztientzako gure oinarrizko mugak direla eta. zentzumen-organoen multzoa.

Kontuan izan hau: gure begiek argi-uhin guztien hamar bilioiren bat baino gutxiago hautematen dute. Ezin ditugu gamma izpiak ikusi. Ezin ditugu x izpiak ikusi. Ezin dugu argi ultramorea ikusten. Eta ez nazazu hasi infragorrietan, mikrouhinetan eta irrati-uhinetan!

Txantxak alde batera utzita, imajinatu nolakoa izango litzatekeen zure bizitza, nola hauteman dezakezun mundua, zein ezberdin funtzionatuko lukeen zure adimenak gaur egun zure begiek uzten duten argi zati txikiak baino gehiago ikusiko bazenu. Era berean, imajinatu nola hautemango zenukeen mundua zure usaimena txakur batena berdina izango balitz edo zure entzumena elefante batena izango balitz.

Gizakiok, funtsean, mundua begizta baten bidez ikusten dugu, eta hori pertzepzio mugatu horri zentzua emateko eboluzionatu dugun adimenetan islatzen da.

Bien bitartean, lehenengo ASI superordenagailu baten barruan jaioko da. Organoen ordez, sartuko dituen sarrerek datu multzo erraldoiak barne hartzen dituzte, agian (litekeena da) Interneterako sarbidea ere. Ikertzaileek hiri oso bateko CCTV kamera eta mikrofonoetarako sarbidea eman diezaiokete, drone eta sateliteen datu sentsorialetara eta baita robot baten gorputz edo gorputz baten forma fisikoa ere.

Imajina dezakezun bezala, superordenagailu baten barruan jaiotako adimenak, Interneterako sarbide zuzena duena, milioika begi eta belarri elektronikotara eta beste sentsore aurreratu sorta oso batekin ez du bakarrik pentsatuko gu baino desberdina, baizik eta zentzua izan dezakeen adimen batek. zentzumen-sarrera horietatik guztietatik gurekin ere infinituki handiagoa izan beharko litzateke. Guretzat eta planetako beste edozein bizimodutik guztiz arrotza izango den adimena da.

Golak. Jendeak bere gain hartzen duen beste gauza bat da, ASI batek superinteligentzia maila batera iristen denean, berehala konturatuko dela bere helburu eta helburuak lortzeko gogoa. Baina hori ere ez da zertan egia.

AI ikertzaile askok uste dute ASI baten superinteligentzia eta bere helburuak "ortogonalak" direla, hau da, zein adimentsua den edozein dela ere, ASIren helburuak berdinak izango dira. 

Beraz, AI bat jatorrian pixoihal hobea diseinatzeko, burtsan etekinak maximizatzeko edo gudu-zelaian etsai bat garaitzeko estrategiak egiteko sortu den ala ez, ASI mailara iristen denean, jatorrizko helburua ez da aldatuko; aldatuko dena ASIren eraginkortasuna da helburu horietara iristeko.

Baina hor dago arriskua. Helburu zehatz baterako optimizatzen duen ASI bat bada, hobe dugu ziur egon gizateriaren helburuekin bat datorren helburu batera optimizatzen duela. Bestela, emaitzak hilgarriak izan daitezke.

Superadimen artifizial batek arrisku existentziala suposatzen al du gizateriarentzako?

Beraz, zer gertatzen da ASI bat munduan askatzen bada? Burtsa menderatzeko edo AEBetako nagusitasun militarra bermatzeko optimizatzen bada, ez al da ASI bere burua eutsiko helburu zehatz horien barruan?

Baliteke.

Orain arte, ASI bat jatorrian esleitu zitzaizkion helburuekin obsesionatuta egongo den eta helburu horiek lortzeko gaitasungabeki konpetentea izango den eztabaidatu dugu. Harrapaketa da agente arrazional batek bere helburuak ahalik eta bide eraginkorrenetan lortuko dituela, ez egiteko arrazoirik eman ezean.

Adibidez, agente arrazionalak bere azken helburua lortzeko bidean lagunduko dioten azpihelburu (hau da, helburuak, helburu instrumentalak, urratsak) hainbat azpihelburu sortuko ditu. Gizakiontzat, gure subkontzientearen helburu nagusia ugalketa da, zure geneak transmititzea (hau da, zeharkako hilezkortasuna). Horretarako azpihelburuak sarritan izan daitezke:

• Bizirik irautea, janaria eta ura eskuratzea, handi eta indartsu haztea, zeure burua defendatzen ikastea edo babes mota ezberdinetan inbertitzea, etab. 
• Bikote bat erakartzea, entrenatuz, nortasun erakargarria garatuz, dotorez jantziz, etab.
• Seme-alabak eskuratzea, heziketa bat lortuz, soldata handiko lana lortuz, klase ertaineko bizitzako trapak erosiz, etab.

Gutako gehien-gehienentzat, azpihelburu guzti hauek eta beste askoren bitartez esklabo egingo gara, azkenean ugaltzearen azken helburu hori lortuko dugulakoan.

Baina azken helburu hori, edo baita azpihelburu garrantzitsuenetako bat ere, mehatxatuta egongo balitz, gutako askok defentsa ekintzak egingo genituzke gure erosotasun moraletik kanpo, hau da, iruzurra, lapurreta edota hiltzea barne.

Era berean, animalien erreinuan, giza moralaren mugetatik kanpo, animalia askok ez lukete bi aldiz pentsatuko beren burua edo haien ondorengoak mehatxatzen zituen ezer hiltzeko.

Etorkizuneko ASI bat ez da ezberdina izango.

Baina ondorengoen ordez, ASIk sortu zen jatorrizko helburura bideratuko du, eta helburu hori lortzeko orduan, gizaki talde jakin bat aurkitzen badu, edo baita gizateria osoa ere, bere helburuak lortzeko oztopoa da. , orduan ... erabaki arrazionala hartuko du.

(Hona hemen zure zientzia-fikziozko liburu edo film gogokoenean irakurri duzun AIarekin lotutako edozein eszenatoki konektatu dezakezu).

Hau da AI ikertzaileak benetan kezkatzen dituen kasurik txarrena. ASIk ez du gorrotoz edo gaiztakeriaz jardungo, axolagabekeriaz baizik, eraikuntza-talde batek ez du bi aldiz pentsatuko inurri-muino bat buldozean etxebizitza-dorre berri bat eraikitzeko prozesuan.

Alboko oharra. Une honetan, zuetako batzuk galdetzen ari zarete: "AIko ikertzaileek ezin al dituzte ASIren oinarrizko helburuak editatu ondoren antzezten ari dela aurkitzen badugu?"

Ez da benetan.

ASI bat heltzen denean, bere jatorrizko helburua(k) editatzeko saiakera oro mehatxutzat har daiteke, eta bere burua defendatzeko muturreko ekintzak beharko lituzkeena. Lehengo giza ugalketa-adibide osoa erabiliz, ia lapur batek haur bat zain dagoen ama baten sabeletik lapurtzeko mehatxua egingo balu bezala da; ziur egon zaitezke amak bere haurra babesteko muturreko neurriak hartuko zituela.

Berriz ere, hemen ez gara kalkulagailu batez ari, izaki "bizi" batez baizik, eta egunen batean planetako gizaki guztiak batuta baino askoz adimentsuagoa bihurtuko dena.

Ezezaguna

-ren fabularen atzean Pandoraren kutxa jendeak askotan ahazten duen egia ezezaguna da: kutxa irekitzea saihestezina da, zuk ez bada beste norbaitek baino. Debekatutako ezagutza tentagarriegia da betirako giltzapetuta egoteko.

Horregatik, ASI bat ekar dezaketen IAren inguruko ikerketa guztiak geldiarazteko akordio global bat lortzen saiatzea alferrikakoa da: erakunde gehiegi daude teknologia honetan lanean ofizialki zein itzalean.

Azken finean, ez dugu argi entitate berri honek, ASI honek gizartearentzat, teknologiarentzat, politikarentzat, bakearentzat eta gerrarentzat zer suposatuko duen. Gizakiok sua berriro asmatzera goaz eta sorkuntza honek nora eramaten gaituen guztiz ezezaguna da.

Serie honen lehen kapitulura itzuliz, ziur dakigun gauza bakarra adimena boterea dela da. Adimena kontrola da. Gizakiok kasualitatez bisita ditzakete munduko animalia arriskutsuenak bertako zooetan, ez animalia horiek baino fisikoki indartsuagoak garelako, baizik eta nabarmen adimentsuak garelako.

Inplikatutako arrisku potentzialak kontuan hartuta, ASI batek bere adimen izugarria giza arrazaren biziraupena zuzenean edo nahi gabe mehatxa dezaketen ekintzak egiteko erabiltzeak, gure buruari zor diogu, gutxienez, gizakiak gidariaren lekuan geratzea ahalbidetuko duten babesak diseinatzen saiatzea. eserlekua—probatzea hurrengo kapituluko gaia da.

Adimen Artifizialaren Etorkizuna seriea

P1: Adimen artifiziala biharko elektrizitatea da

P2: Lehen Adimen Orokor Artifizialak gizartea nola aldatuko duen

P3: Nola sortuko dugun lehen Superadimen Artifiziala

P5: Gizakiak nola defendatuko dituen Superadimen Artifizial baten aurka

P6: Gizakiak bakean biziko al dira adimen artifiziala nagusi den etorkizunean?