新的人造神经元设备使用100至1000倍的能量运行神经网络计算

培训神经网络来执行任务，例如识别图像或导航自驾驶汽车，可能有一天可能需要较少的计算能力和硬件，并且由于加州大学圣地亚哥的研究人员开发的新的人工神经元设备。该设备可以使用100至1000倍的能量和面积而不是基于CMOS的硬件运行神经网络计算。

研究人员在最近发表的论文中报告了他们的工作自然纳米技术。

神经网络是一系列连接层的人造神经元，其中一层的输出为下一个提供输入。通过应用于非线性激活函数的数学计算来生成输入来完成该输入。这是运行神经网络的关键部分。但是应用此功能需要大量的计算功率和电路，因为它涉及在两个单独的单元之间来回传输数据 - 存储器和外部处理器。

现在，UC San Diego研究人员开发了一种纳米大小的装置，可以有效地执行激活功能。

随着神经网络模型变得更大更复杂的“硬件中的神经网络计算越来越低，”UC San Diego Jacobs工程学学院电气计算机工程教授Duygu Kuzum说。“我们开发了一个单个纳米级人工神经元设备，以非常区域和节能的方式在硬件中实现这些计算。”

由kuzum和她的博士学位的新研究。学生僧侣哦，与由UC San Diego物理教授Ivan Schuller领导的DoE能源前沿研究中心进行合作，专注于开发节能人工神经网络的硬件实现。

该设备实现了称为整流线性单元的神经网络训练中最常用的激活功能之一。特别是关于这个函数的特点是它需要硬件，该硬件可以经历逐渐变化的阻力才能工作。这正是UC San Diego研究人员设计了他们的设备 - 它可以逐渐从绝缘到导电状态切换，并且在一点点的热量的帮助下它会这样做。

此开关是所谓的Mott转换。它发生在二氧化钒钒层中。在该层上方是由钛和金制成的纳米线加热器。当电流流过纳米线时，二氧化钒层慢慢加热，导致缓慢，受控开关绝缘到导电。

“这个设备架构非常有趣，创新，”哦，谁是学习的第一作者。通常，在Mott转变中的材料经历突然的开关绝缘到导通，因为电流直接通过材料流动，他解释说明。“在这种情况下，我们通过纳米线在材料顶部流动电流加热它并诱导非常逐渐的电阻变化。”

为了实现设备，研究人员首先制造了这些所谓的激活（或神经元）器件的阵列，以及突触装置阵列。然后，它们在定制印刷电路板上集成了两个阵列，并将它们连接在一起以创建神经网络的硬件版本。

研究人员使用网络来处理图像 - 在这种情况下，在UC San Diego的Geisel Library的图片。该网络执行了一种称为边缘检测的图像处理，其识别图像中对象的轮廓或边缘。该实验表明，集成的硬件系统可以对许多类型的深神经网络进行卷积操作，这是必不可少的。

研究人员表示，该技术可以进一步扩大，以便在自动驾驶汽车中进行更复杂的任务，例如面部和物体识别。凭借兴趣和合作的行业，这可能会发生，注意到Kuzum。

“现在，这是一个概念证明，”Kuzum说。“这是一个微小的系统，其中我们只用一个激活层堆叠一个突触层。通过将更多这些堆叠在一起，您可以为不同的应用程序制作更复杂的系统。“

参考文献：“节能Mott激活神经元全部硬件实施神经网络”哦，Sangheon哦，余汉Shi，Javier Del Valle，Pavel Salev，Yichen Lu，Zhisheng Huang，Yoav Kalcheim，Ivan K. Schuller和Duygu Kuzum，2021年3月18日那自然纳米技术。
DOI：10.1038 / S41565-021-00874-8

这项工作得到了海军研究办公室，三星电子，国家科学基金会，国家卫生研究院，高通公司奖学金和美国能源部通过能源前沿研究中心办公室。