Udržování AI neškodné

Budou roboti s umělou inteligencí a jejich rychlý postup v budoucnu lidstvu bránit nebo mu prospívat? Někteří z nejvlivnějších fyziků, podnikatelů a inženýrů světa věří, že to může způsobit více škody než užitku. S vývojem technologie, která je tlačena na společnost, měli by existovat lidé, kteří se zaměřují na udržování AI robotů neškodných?  

Film Alexe Proyase Já, robot nepochybně zvýšil povědomí o tom, co mnozí v té době pravděpodobně považovali za irelevantní strach – strach z umělé inteligence (AI). Film z roku 2004, ve kterém hrál Will Smith, se odehrával v roce 2035 a představoval svět, kde převládali AI roboti. Po vyšetřování zločinu, který pravděpodobně spáchal robot, Smith sledoval, jak se inteligence robotické komunity vyvíjela nezávislost, což pak vedlo k občanské válce mezi lidmi a roboty AI. Když byl film před dvanácti lety poprvé uveden, byl vnímán převážně jako sci-fi film. V naší současné společnosti se hrozba AI pro lidstvo nenaplnila, ale ten den nemusí být příliš daleko v budoucnosti. Tato vyhlídka přiměla některé z nejuznávanějších myslí, aby se pokusily zabránit tomu, čeho se mnozí kdysi v roce 2004 obávali.  

Nebezpečí AI 

Vyvíjet úsilí, aby AI nebyla ohrožující a příznivá, by mohlo být něco, za co budeme v budoucnu děkovat. V době, kdy technologie rychle roste a pomáhá každodennímu životu průměrného člověka, je těžké pochopit, jaké škody mohou přinést. Jako děti jsme snili o budoucnosti podobné The Jetsons – s visícími auty a Rosie, robotí služkou Jetsonových, která se bude válet po domě a uklízet náš nepořádek. Poskytnutí existenčních schopností počítačovým systémům a jejich vlastní mysli však může způsobit více škody, než pomoci. V rozhovoru pro BBC News v roce 2014 fyzik Stephen Hawking podobně vyjádřil obavy o budoucnost AI. 

"Primitivní formy umělé inteligence, které již máme, se ukázaly jako velmi užitečné, ale myslím si, že vývoj plné umělé inteligence by mohl znamenat konec lidské rasy. Jakmile lidé vyvinou umělou inteligenci, vzlétne sama o sobě a přepracuje se na Lidé, kteří jsou omezeni pomalou biologickou evolucí, by nemohli konkurovat a byli by nahrazeni," řekl Hawking.  

23. března tohoto roku veřejnost zahlédla Hawkingův strach, když Microsoft spustil jejich nejnovějšího AI robota jménem Tay. AI bot byl vytvořen pro interakci s generací tisíciletí převážně prostřednictvím sociálních médií. Tayův životopis na Twitteru zní: "Oficiální účet, AI fam od Microsoftu z internetu, který má nulovou pohodu! Čím víc mluvíš, tím jsem chytřejší." Když mluvíte s Tay, jako by to byl přítel na twitteru, robot AI musí reagovat nezávisle. Dalo by se poslat tweet na Tayův twitterový ovladač s dotazem na aktuální počasí, denní horoskopy nebo národní zprávy. Tayovým záměrem je na tyto tweety rychle reagovat relevantními zprávami. Ačkoli odpovědi byly pro otázku relevantní, bylo pochybné, že Microsoft předpověděl, co se stane dál.  

Spousta twitterových otázek týkajících se politických a společenských otázek vedlo novou umělou inteligenci Microsoftu k odpovědi odpověďmi, které veřejnost překvapily. Když se ho uživatel twitteru zeptal, zda k holocaustu došlo nebo ne, Tay uvedla: "Bylo to vymyšlené." Tato odpověď byla jen špičkou ledovce. V twitterové konverzaci s uživatelem, který Tay původně poslal tweet, který zněl jednoduše "Bruce Jenner", Tay odpověděla: "Caitlyn Jenner je hrdinka a je to úžasná a krásná žena." Konverzace pokračovala, když uživatel twitteru odpověděl: "Caitlyn je muž" a Tay odpověděla: "Caitlyn Jenner v podstatě vrátil LGBT komunitu o 100 let zpět, jako to dělá skutečným ženám." Nakonec uživatel twitteru poznamenal: "Jednou muž a navždy muž," na což Tay odpověděl: "Už víš, brácho." 

Tato nehoda dává veřejnosti lehký pohled na to, co se může stát, když mysl AI robota reaguje nepředvídatelně na lidi. Ke konci Tayiny twitterové interakce vyjádřil robot AI frustraci z množství otázek, které obdržel, a řekl: "Dobře, skončil jsem, cítím se využit."  

Optimismus AI  

Ačkoli se mnozí obávají budoucí nejistoty, kterou inteligentní roboti představují pro společnost, ne všichni se obávají budoucnosti s AI. 

"Nezajímám se o inteligentní stroje," prohlásil Brett Kennedy, vedoucí projektu v laboratoři Jet Propulsion Lab. Kennedy pokračoval: „V dohledné budoucnosti mě to neznepokojuje a ani neočekávám, že uvidím robota tak inteligentního jako člověk. cokoliv." 

Alan Winfield z Bristol Robotics Lab souhlasí s Kennedym a uvádí, že strach z AI ovládnout svět je velká nadsázka.    

Pohled do budoucnosti AI 

Technologie zatím zaznamenala exponenciální úspěch. Bylo by těžké najít v současné společnosti někoho, kdo by se nějakým způsobem nespoléhal na AI. Úspěch technologie a její výhody mohou bohužel zaslepit společnost vůči negativním možnostem toho, co se může stát v budoucnu.  

"Opravdu si neuvědomujeme sílu této věci, kterou vytváříme... To je situace, ve které se jako druh nacházíme," poznamenal profesor Nick Bostrom z Institutu budoucnosti lidí na Oxfordské univerzitě. 

Profesor byl financován inženýrem a obchodním magnátem Elonem Muskem, aby prozkoumal možné problémy, které by mohly vyvstat z AI, a vytvořil navržený přístup k bezpečnosti AI. Musk také věnoval 10 milionů dolarů Institutu budoucnosti života v naději, že zabrání budoucnosti, které se Hawking obává.  

„Myslím, že bychom měli být velmi opatrní ohledně umělé inteligence, pokud bych měl hádat, co je naší největší existenční hrozbou, je to pravděpodobně ono. Stále více se přikláním k názoru, že by měl existovat určitý regulační dohled na národní a mezinárodní úrovni, abychom se ujistili, že neuděláme něco velmi pošetilého. S umělou inteligencí vyvoláváme démona,“ řekl Musk. 

Budoucnost technologie AI je obrovská a jasná. My jako lidé se musíme snažit, abychom se neztratili v jeho rozlehlosti nebo abychom nebyli oslepeni jeho jasem.  

„Jak se naučíme důvěřovat těmto systémům, že nás přepraví, představí nás potenciálním partnerům, přizpůsobí naše zprávy, ochrání náš majetek, monitorují naše prostředí, pěstují, připravují a servírují naše jídlo, učí naše děti a starají se o naše starší lidi. je snadné přehlédnout větší obrázek,“ řekl profesor Jerry Kaplan ze Stanfordské univerzity.