超级计算的进步：使用神经形态光网络

在过去的几十年里，IBM 的戈登·摩尔 (Gordon Moore) 在 1965 年预测的摩尔定律这一曾经广为人知且准确的趋势，现在正慢慢成为衡量计算性能的一个不复存在的指标。摩尔定律预测，集成电路中的晶体管数量大约每两年就会增加一倍，在相同的空间内会有更多的晶体管，从而导致计算量的增加，从而提高计算机性能。 2005 年 10 月，戈登·摩尔本人在接受采访时表示，他的预测可能不再可持续：“就[晶体管]的尺寸而言，你可以看到我们正在接近原子的尺寸，这是一个基本障碍，但它我们需要两到三代人才能走到这一步——但这是我们所能看到的最遥远的事情。我们还有 20 到 XNUMX 年的时间才能达到根本极限。”   

尽管摩尔定律注定会遇到一些死胡同，但其他计算指标的适用性正在增强。随着我们日常生活中使用的技术的发展，我们都可以看到计算机变得越来越小，但设备电池的使用寿命也越来越长。后一种电池趋势被称为库米定律，以斯坦福大学教授乔纳森·库米的名字命名。库米定律预测“......在固定的计算负载下，您所需的电池量将每年半下降两倍。”因此，计算机的电子功耗或能源效率大约每 18 个月就会翻一番。所以，所有这些趋势和变化都指向和揭示的是计算的未来。

计算的未来

我们已经到了一个历史时期，我们必须重新定义计算，因为几十年前预测的趋势和定律不再适用。此外，随着计算向纳米和量子尺度发展，存在明显的物理限制和挑战需要克服。也许超级计算领域最著名的尝试是量子计算，它面临着真正利用量子纠缠进行并行计算的明显挑战，即在量子退相干之前执行计算。然而，尽管量子计算面临挑战，但在过去几十年里还是取得了很大进展。人们可以找到应用于量子计算的传统约翰·冯·诺依曼计算机架构的模型。但还有另一个不太为人所知的（超级）计算领域，称为神经形态计算，它不遵循传统的冯·诺依曼架构。 

加州理工学院教授 Carver Mead 在 1990 年的开创性论文中设想了神经拟态计算。从根本上来说，神经拟态计算的原理基于理论化的生物学作用原理，就像人脑在计算中所利用的原理一样。 Don Monroe 在《神经形态计算理论》和《经典冯诺依曼计算理论》中的一篇文章中总结了神经形态计算理论与经典冯诺依曼计算理论之间的简洁区别。 计算机协会 杂志。该声明是这样的：“在传统的冯诺依曼架构中，一个强大的逻辑核心（或几个并行的逻辑核心）对从内存中获取的数据进行顺序操作。相比之下，“神经形态”计算将计算和内存分配给大量相对原始的“神经元”，每个神经元通过“突触”与数百或数千个其他神经元进行通信。  

神经形态计算的其他关键特征包括容错能力，其目的是模拟人脑在失去神经元后仍能正常工作的能力。类似地，在传统计算中，一个晶体管的损耗会影响正常运行。神经形态计算的另一个设想和目标优势是无需编程；最后一个目标是再次模拟人脑学习、响应和适应信号的能力。因此，神经形态计算是目前机器学习和人工智能任务的最佳候选者。 

神经形态超级计算的进展

本文的其余部分将深入探讨神经形态超级计算的进展。具体来说，Alexander Tait 等人最近发表了关于 Arxiv 的研究。等人。普林斯顿大学的研究表明，硅基光子神经网络模型的性能比传统计算方法高出近 2000 倍。这种神经形态光子计算平台可以实现超快的信息处理。 

泰特等人。等人。论文题为 神经形态硅光子学 首先描述使用电磁辐射的光子光形式进行计算的优缺点。论文最初的要点是，光已被广泛用于信息传输，但尚未用于信息转换，即数字光学计算。与量子计算类似，数字光学计算也面临着根本性的物理挑战。然后，本文详细介绍了早期提出的神经形态光子计算平台 Tait 等人。等人。团队于2014年发表，题为 广播和权重：用于可扩展光子尖峰处理的集成网络。他们的新论文描述了集成光子神经网络的首次实验演示的结果。 

在“广播与权重”计算架构中，“节点”被分配一个唯一的“波长载波”，即“波分复用（WDM）”，然后广播到其他“节点”。该架构中的“节点”旨在模拟人脑中的神经元行为。然后，“WDM”信号通过称为“微环（MRR）权重库”的连续值滤波器进行处理，然后以电方式求和成测量的总功率检测值。最后的电光变换/计算的非线性正是模拟神经元功能所需的非线性，这对于神经形态原理下的计算至关重要。 

在论文中，他们讨论了这些经过实验验证的电光变换动力学在数学上与“2 节点连续时间递归神经网络”（CTRNN）模型相同。这些开创性的结果表明，用于 CTRNN 模型的编程工具可以应用于基于硅的神经形态平台。这一发现为将 CTRNN 方法应用于神经形态硅光子学开辟了道路。在他们的论文中，他们在“广播和权重”架构上做了这样的模型调整。结果表明，在 49 节点架构上模拟的 CTRNN 模型产生的神经拟态计算架构的性能比经典计算模型高出 3 个数量级。