Startup AI 'vicarious' vzrušuje elitu křemíkového údolí – Ale je to všechno humbuk?

Startupu umělé inteligence, Vicarious, je v poslední době věnována velká pozornost a není zcela jasné proč. Mnoho bigwigs ze Silicon Valley otevírá své osobní peněženky a rozdává velké peníze na podporu výzkumu společnosti. Jejich webové stránky se chlubí nedávným přílivem finančních prostředků od takových významných osobností, jako je generální ředitel Amazonu Jeff Bezos, spoluzakladatel Yahoo Jerry Yang, spoluzakladatel Skype Janus Friis, zakladatel Facebooku Mark Zuckerberg a... Ashton Kutcher. Opravdu se neví, kam všechny ty peníze jdou. Umělá inteligence je v poslední době vysoce tajná a ochranná oblast technologického vývoje, ale veřejná debata o příchodu a použití vysoce očekávané umělé inteligence v reálném světě byla všemožná, jen ne umlčená. Vicarious byl na technologické scéně tak trochu černý kůň.

I když se o společnosti hodně mluvilo, zejména od doby, kdy jejich počítače loni na podzim praskly „CAPTCHA“, dokázali zůstat nepolapitelným a tajemným hráčem. Například nezveřejňují svou adresu ze strachu z korporátní špionáže a dokonce i návštěva jejich webových stránek vás nechá v rozpacích, co vlastně dělají. To vše, co se tvrdě hraje, stále přivádí investory do fronty. Hlavním projektem Vicarious bylo vybudování neuronové sítě schopné replikovat část lidského mozku, která řídí vidění, pohyb těla a jazyk.

Spoluzakladatel Scott Phoenix řekl, že společnost se snaží „postavit počítač, který myslí jako člověk, ale nemusí jíst ani spát“. Vicarious se dosud zaměřoval na vizuální rozpoznávání objektů: nejprve pomocí fotografií, poté pomocí videí a poté s dalšími aspekty lidské inteligence a učení. Spoluzakladatel Dileep George, dříve vedoucí výzkumník ve společnosti Numenta, klade důraz na analýzu percepčního zpracování dat v práci společnosti. Plánem je nakonec vytvořit stroj, který se dokáže naučit „myslet“ prostřednictvím řady účinných a nekontrolovaných algoritmů. Přirozeně to lidi pěkně vyděsilo.

Možnost, že se umělá inteligence stane součástí skutečného života, po léta okamžitě přitahovala hollywoodské odkazy. Kromě obav ze ztráty lidských pracovních míst kvůli robotům se lidé skutečně obávají, že nebude dlouho trvat, než se ocitneme v situaci ne nepodobné těm, které jsou uvedeny v Matrixu. Spoluzakladatel Tesla Motors a PayPal Elon Musk, rovněž investor, vyjádřil v nedávném rozhovoru pro CNBC obavy z AI.

„Rád sleduji, co se děje s umělou inteligencí,“ řekl Musk. „Myslím, že tam je potenciálně nebezpečný výsledek. Byly o tom filmy, víte, jako Terminátor. Existují některé děsivé výsledky. A měli bychom se snažit zajistit, aby výsledky byly dobré, nikoli špatné.“

Stephen Hawking vložil své dva centy, čímž v podstatě potvrdil náš strach, že bychom se měli bát. Jeho nedávné komentáře v The Independent vedlo k mediálnímu šílenství a vyvolalo takové titulky jako „Stephen Hawking se bojí umělé inteligence“ od Huffington Post a brilantní „Umělá inteligence by mohla skoncovat s lidstvem“ od MSNBC! Hawkingovy komentáře byly podstatně méně apokalyptické a rovnaly se rozumnému varování: „Úspěch ve vytvoření umělé inteligence by byl největší událostí v historii lidstva.

Bohužel může být také poslední, pokud se nenaučíme, jak se rizikům vyhnout. Dlouhodobý dopad umělé inteligence závisí na tom, zda ji lze vůbec ovládat.“ Tato otázka „kontroly“ vyvedla z práce se dřevem mnoho aktivistů za práva robotů, kteří obhajovali svobodu robotů a říkali, že snažit se „ovládat“ tyto myslící bytosti by bylo kruté a znamenalo by to určitou formu otroctví, a že je třeba nechat roboti jsou svobodní a žijí své životy na maximum (Ano, tito aktivisté existují.)

Než se lidé nechají unést, je třeba vyřešit mnoho volných konců. Za prvé, Vicarious nevytváří ligu robotů, kteří budou mít city, myšlenky a osobnosti nebo touhu povstat proti lidem, kteří je vytvořili, a ovládnout svět. Sotva rozumějí vtipům. Doposud bylo téměř nemožné naučit počítače něco, co by připomínalo smysl ulice, lidskou „smysluplnost“ a lidské jemnosti.

Například projekt ze Stanfordu s názvem „Hluboce se pohybující“, jehož smyslem je interpretovat filmové recenze a dávat filmům hodnocení palec nahoru nebo dolů, byl naprosto neschopný číst sarkasmus nebo ironii. Nakonec Vicarious nehovoří o simulaci lidské zkušenosti. Všeobecně rozsáhlé prohlášení, že počítače Vicarious budou „myslet“ jako lidé, je dost vágní. V tomto kontextu musíme vymyslet další slovo pro „myslet“. Hovoříme o počítačích, které se mohou učit pomocí rozpoznávání – alespoň prozatím.

Co to tedy znamená? Druhy vývoje, ke kterým realisticky směřujeme, mají praktičtější a použitelnější vlastnosti, jako je rozpoznávání obličeje, samořídící auta, lékařská diagnostika, překlad textu (určitě bychom mohli použít něco lepšího, než je překladač Google) a hybridizace technologií. Hloupá věc na tom všem je nic z toho není nové. Technický guru a předseda Společnosti pro umělou všeobecnou inteligenci, Dr. Ben Goertzel, zdůrazňuje v jeho blog„Pokud si vyberete jiné problémy, jako je poslíček na kole na přeplněné New York Street, psaní novinového článku o nově se vyvíjející situaci, učení se novému jazyku na základě zkušeností ze skutečného světa nebo identifikace nejsmysluplnějších lidských událostí ze všech interakce mezi lidmi ve velké přeplněné místnosti, pak byste zjistili, že dnešní statistické metody [strojového učení] nejsou tak užitečné.“

Jsou jen určité věci, kterým stroje ještě nerozumí, a některé věci, které nelze zcela zachytit v algoritmu. Jsme svědky toho, jak se valí sněhová koule, u které se alespoň zatím ukázalo, že jde převážně o chmýří. Ale humbuk sám o sobě může být nebezpečný. Jako ředitel výzkumu AI na Facebooku a zakládající ředitel NYU Center for Data Science Yann LeCun veřejně zveřejnil příspěvek na jeho Google+ stránku: „Hype je pro AI nebezpečný. Hype zabil AI čtyřikrát za posledních pět desetiletí. AI humbuk musí být zastaven.“

Když Vicarious loni na podzim prolomil CAPTCHA, LeCun byl skeptický k mediálnímu šílenství a poukázal na několik velmi důležitých skutečností: „1. Prolomit CAPTCHA je stěží zajímavý úkol, pokud nejste spammer; 2. Je snadné tvrdit, že jste úspěšní na datasetu, který jste si sami vytvořili.“ Dále radil technologickým novinářům: „Prosím, nevěřte vágním tvrzením začínajících s umělou inteligencí, pokud nedosahují nejmodernějších výsledků na široce uznávaných benchmarcích,“ a říká, aby si dávali pozor na ozdobný nebo vágní žargon jako „software pro strojové učení založený na výpočetní principy lidského mozku“ nebo „rekurzivní kortikální síť“.

Podle standardů společnosti LeCun je rozpoznávání objektů a obrázků mnohem působivějším krokem ve vývoji umělé inteligence. Více důvěřuje práci skupin jako Deep Mind, které mají dobré výsledky v prestižních publikacích a technologickém vývoji, a vynikající tým vědců a inženýrů, kteří pro ně pracují. "Možná Google přeplatil za Deep Mind," říká LeCun, "ale za ty peníze získali spoustu chytrých lidí. Ačkoli některé z toho, co Deep Mind dělá, je utajováno, publikují články na velkých konferencích." LeCunův názor na Vicarious je zcela odlišný: „Vicarious je samý kouř a zrcadla,“ říká.

Nikdy nepřispěli k umělé inteligenci, strojovému učení nebo počítačovému vidění. Neexistují žádné informace o metodách a algoritmech, které používají. A na standardních souborech dat neexistuje žádný výsledek, který by komunitě pomohl posoudit kvalitu jejich metod. Všechno je to humbuk. Existuje spousta startupů s umělou inteligencí/deep learning, které dělají zajímavé věci (většinou aplikace metod nedávno vyvinutých na akademické půdě). Je pro mě matoucí, že Vicarious přitahuje tolik pozornosti (a peněz) ničím jiným než divokými nepodloženými tvrzeními.“

Možná je to reminiscence na pseudokultovní duchovní hnutí, která zapojují celebrity. Díky tomu to celé působí trochu bláznivě nebo alespoň částečně fantasticky. Chci říct, jak vážně můžete brát operaci, která zahrnuje Ashtona Kutchera a asi milion odkazů na Terminátora? V minulosti byla velká část mediálního pokrytí velmi nadšená, tisk byl možná příliš nadšený z používání slov jako „biologicky inspirovaný procesor“ a „kvantový výpočet“.

Tentokrát se ale hype-stroj trochu zdráhá automaticky zařadit rychlost. Jak nedávno zdůraznil Gary Marcus The New Yorker, mnoho z těchto příběhů je „přinejlepším zmatených“, ve skutečnosti neposkytují nic nového a přehánějí informace o technologii, kterou již máme a používáme. A tyhle věci se dějí už dlouho dekády. Stačí se podívat na perceptron a můžete si udělat představu o tom, jak rezavý tento technický vlak vlastně je. To znamená, že bohatí lidé naskakují do vlaku peněz a nezdá se, že by se to v dohledné době zastavilo.