Суперкамп'ютэрныя дасягненні: выкарыстанне нейраморфных аптычных сетак

У апошнія некалькі дзесяцігоддзяў некалі добра вядомая і дакладная тэндэнцыя, закон Мура, прадказаная Горданам Мурам з IBM у 1965 годзе, цяпер паступова становіцца неіснуючай мерай вылічальнай прадукцыйнасці. Закон Мура прадказаў, што прыкладна кожныя два гады колькасць транзістараў у інтэгральнай схеме будзе падвойвацца, што будзе больш транзістараў у той жа колькасці прасторы, што прывядзе да павелічэння вылічэнняў і, такім чынам, прадукцыйнасці кампутара. У красавіку 2005 года ў інтэрв'ю сам Гордан Мур заявіў, што яго прагноз, верагодна, больш не будзе ўстойлівым: «З пункту гледжання памеру [транзістараў] вы бачыце, што мы набліжаемся да памеру атамаў, які з'яўляецца фундаментальным бар'ерам, але гэта пройдзе два ці тры пакаленні, перш чым мы зайдзем так далёка, але гэта так далёка, як мы калі-небудзь маглі бачыць. У нас ёсць яшчэ 10-20 гадоў, перш чым мы дасягнем фундаментальнай мяжы».   

Нягледзячы на ​​тое, што закон Мура асуджаны зайсці ў тупік, іншыя індыкатары вылічэнняў бачаць рост дастасавальнасці. Дзякуючы тэхналогіям, якія мы выкарыстоўваем у паўсядзённым жыцці, мы ўсе можам бачыць тэндэнцыі да таго, што камп'ютары становяцца ўсё менш і менш, а таксама тое, што батарэі прылад працуюць усё даўжэй і даўжэй. Апошняя тэндэнцыя з батарэямі называецца законам Кумі, названым у гонар прафесара Стэнфардскага універсітэта Джонатана Кумі. Закон Кумі прадказвае, што «…пры фіксаванай вылічальнай нагрузцы аб'ём неабходнай батарэі будзе падаць у два разы кожныя паўтара года». Такім чынам, спажыванне электраэнергіі або энергаэфектыўнасць кампутараў падвойваецца прыкладна кожныя 18 месяцаў. Такім чынам, усе гэтыя тэндэнцыі і змены паказваюць і раскрываюць будучыню вылічальнай тэхнікі.

Будучыня вылічальнай тэхнікі

Мы прыйшлі да моманту ў гісторыі, калі нам давядзецца пераасэнсаваць вылічэнні, паколькі тэндэнцыі і законы, прадказаныя некалькі дзесяцігоддзяў таму, больш не прымяняюцца. Акрамя таго, калі вылічальная тэхніка прасоўваецца да нана- і квантавых маштабаў, узнікаюць відавочныя фізічныя абмежаванні і праблемы, якія трэба пераадолець. Мабыць, самая прыкметная спроба суперкампутараў, квантавыя вылічэнні, мае відавочную праблему па-сапраўднаму выкарыстаць квантавую заблытанасць для паралельных вылічэнняў, гэта значыць выкананне вылічэнняў перад квантавай дэкагерэнцыяй. Аднак, нягледзячы на ​​праблемы квантавых вылічэнняў, за апошнія некалькі дзесяцігоддзяў быў дасягнуты вялікі прагрэс. Можна знайсці мадэлі традыцыйнай камп'ютарнай архітэктуры Джона фон Нэймана, якія прымяняюцца да квантавых вылічэнняў. Але ёсць яшчэ адна не вельмі вядомая сфера (звыш)вылічэнняў, якая называецца нейраморфнымі вылічэннямі, якая не адпавядае традыцыйнай архітэктуры фон Нэймана. 

Нейраморфныя вылічэнні былі задуманы прафесарам Каліфарнійскага тэхналагічнага інстытута Карверам Мідам яшчэ ў яго асноўнай працы ў 1990 годзе. Па сутнасці, прынцыпы нейраморфных вылічэнняў заснаваны на тэарэтызаваных біялагічных прынцыпах дзеяння, накшталт тых, якія, як мяркуецца, выкарыстоўваюцца чалавечым мозгам у вылічэннях. У артыкуле Дона Манро ў Асацыяцыя вылічальнай тэхнікі часопіс. Заява гучыць так: «У традыцыйнай архітэктуры фон Нэймана магутнае лагічнае ядро ​​(або некалькі паралельна) працуе паслядоўна з дадзенымі, атрыманымі з памяці. Наадварот, «нейраморфныя» вылічэнні размяркоўваюць і вылічэнні, і памяць сярод велізарнай колькасці адносна прымітыўных «нейронаў», кожны з якіх мае зносіны з сотнямі ці тысячамі іншых нейронаў праз «сінапсы».  

Іншыя ключавыя асаблівасці нейраморфных вылічэнняў ўключаюць нецярпімасць да памылак, якая накіравана на мадэляванне здольнасці чалавечага мозгу губляць нейроны і пры гэтым заставацца ў стане функцыянаваць. Аналагічна, у традыцыйных вылічэннях страта аднаго транзістара ўплывае на належнае функцыянаванне. Яшчэ адна прадугледжаная і мэтанакіраваная перавага нейраморфных вылічэнняў заключаецца ў адсутнасці неабходнасці праграмавання; гэтая апошняя мэта - зноў мадэляванне здольнасці чалавечага мозгу вучыцца, рэагаваць і адаптавацца да сігналаў. Такім чынам, нейраморфныя вылічэнні ў цяперашні час з'яўляюцца лепшым кандыдатам для задач машыннага навучання і штучнага інтэлекту. 

Дасягненні нейраморфных суперкампутараў

Астатняя частка гэтага артыкула будзе паглыбляцца ў дасягненні нейраморфных суперкампутараў. У прыватнасці, нядаўна апублікаванае даследаванне Arxiv ад Alexander Tait et. інш. з Прынстанскага ўніверсітэта паказвае, што мадэль фатоннай нейронавай сеткі на аснове крэмнія пераўзыходзіць звычайны падыход да вылічэнняў амаль у 2000 разоў. Гэтая нейраморфная фатонная платформа вылічэнняў можа прывесці да звышхуткай апрацоўкі інфармацыі. 

Тэйт і інш. інш. дакумент пад назвай Нейраморфная крэмніевая фатоніка пачынаецца з апісання плюсаў і мінусаў выкарыстання фатоннай формы святла электрамагнітнага выпраменьвання для вылічэнняў. Першапачатковыя асноўныя пункты артыкула заключаюцца ў тым, што святло шырока выкарыстоўваецца для перадачы інфармацыі, але не для пераўтварэння інфармацыі, г.зн. для лічбавых аптычных вылічэнняў. Падобным чынам, для квантавых вылічэнняў існуюць фундаментальныя фізічныя праблемы для лічбавых аптычных вылічэнняў. Затым у артыкуле разглядаюцца дэталі прапанаванай раней нейроморфной фатоннай вылічальнай платформы Tait et. інш. калектыў апублікаваў у 2014 г. пад зав Трансляцыя і вага: інтэграваная сетка для маштабаванай апрацоўкі фатонных спайкаў. Іх новая праца апісвае вынікі першай эксперыментальнай дэманстрацыі інтэграванай фатоннай нейронавай сеткі. 

У вылічальнай архітэктуры «вяшчанне і вага» «вузлам» прысвойваецца ўнікальная «нясучая даўжыні хвалі», якая з'яўляецца «мультыплексаванай з падзелам даўжыні хвалі (WDM)», а затым трансліруецца ў іншыя «вузлы». «Вузлы» ў гэтай архітэктуры прызначаныя для мадэлявання паводзін нейронаў у чалавечым мозгу. Затым сігналы "WDM" апрацоўваюцца з дапамогай фільтраў бесперапыннага значэння, званых "банкамі вагі мікракальца (MRR), а затым электрычна сумуюцца ў вымеранае агульнае значэнне выяўлення магутнасці. Нелінейнасць гэтага апошняга электрааптычнага пераўтварэння/вылічэння - гэта менавіта нелінейнасць, неабходная для імітацыі функцыянальнасці нейронаў, істотнай для вылічэнняў у адпаведнасці з нейраморфнымі прынцыпамі. 

У артыкуле яны абмяркоўваюць, што гэтая эксперыментальна правераная дынаміка электрааптычнага пераўтварэння матэматычна ідэнтычная мадэлі «2-вузловай рэкурэнтнай нейронавай сеткі з бесперапынным часам» (CTRNN). Гэтыя наватарскія вынікі сведчаць аб тым, што інструменты праграмавання, якія выкарыстоўваліся для мадэляў CTRNN, могуць прымяняцца да нейраморфных платформаў на аснове крэмнія. Гэта адкрыццё адкрывае шлях да адаптацыі метадалогіі CTRNN да нейраморфнай крэмніевай фатонікі. У сваёй працы яны робяць менавіта такую ​​адаптацыю мадэлі да сваёй архітэктуры «вяшчання і вагі». Вынікі паказваюць, што мадэль CTRNN, змадэляваная на іх 49-вузлавой архітэктуры, дае нейраморфную вылічальную архітэктуру, каб пераўзыходзіць класічныя вылічальныя мадэлі на 3 парадкі.