主页 > 管理

普林斯顿大学学者利用内存计算技术加速AI

时间:2019-06-17 来源:嘉怡时尚

据普林斯顿大学网站2018年11月报道,通过改变计算的一个基本特性,普林斯顿的研究人员研发了一种新型的计算机芯片,获得了更好的性能,并大大降低了该芯片应用于人工智能系统中的能量需求。

新型的计算机芯片与标准编程语言一起工作,对依赖于高性能计算但电池寿命有限的电话、手表或其他设备可能特别有用。

该芯片基于一种被称为内存(in-memory)计算的技术,旨在解决计算机处理器的一个的主要计算瓶颈,即必须花费时间和能量从存储器中获取数据。内存计算直接在存储器中执行,因而能够获得更好的速度和效率。

之前,研究人员与Analog Devices公司合作研制了内存计算的电路图,并发布了一个报告,随后便发布了该芯片和一个配套的编程系统。该电路的实验室测试表明,这种芯片的性能将比同类芯片快数十到几百倍。然而,最初的芯片并不包括最新版本的所有组件,因而其性能有限。

Naveen Verma实验室的研究人员报告说,他们已经将内存计算电路集成到可编程处理器的架构中。该芯片现在使用C等常用的计算机语言工作。Hongyang Jia是Verma的团队种一名研究生,也是芯片设计者之一。他表示:“之前的芯片是一个强大的引擎,而现在这个芯片是一辆完整的车。”

尽管普林斯顿研发的芯片可以适用于更大范围的系统,但它的设计目标是支持用于深度学习推理的系统:这种推理算法允许计算机通过学习数据集做出决策并执行复杂的任务。深度学习系统可以支持诸如自动驾驶车辆、面部识别系统和医疗诊断软件之类的事情。

Verma表示,对许多应用来说,芯片的节能性与其性能的提升同样重要。这是因为许多人工智能应用程序都期望能够在由电池驱动的设备上运行,如移动电话或可佩戴的医学传感器。例如,苹果iPhone X的电路中已经包含了一个AI芯片。但是,如果需要节能和性能提升的众多应用程序无法获得这些性能,它们就没有意义了—这时就需要可编程性。

Verma说:“经典的计算机架构将中央处理器与存储器分开。前者负责处理数据,而后者负责存储数据。计算机的大量能源被用于来回移动数据。”

在某种程度上,新芯片解释了摩尔定律不断放缓的原因。1965年,英特尔创始人Gordon Moore观察到集成电路上的晶体管数量大约每年翻一番,工业界也注意到这些晶体管在这一过程中变得更快和更加节能。几十年来,这一现象被称为摩尔定律,它是计算机不断变强过程中的一个主要规律。但近年来,晶体管的改进并没有保持以前的速度,已经逐渐接近其基本的物理极限。

Verma专长于电路和系统设计,他考虑的是如何从结构层面绕过当前的障碍,而不是从晶体管层面。如果能够在与计算机内存相同的位置进行计算,则AI所需的计算效率将获得很大提高,因为不需要花费时间和能量从远处获取存储的数据。这将使计算机变得更快,却不需要升级晶体管。但是创建这样一个系统是一个挑战。必须将存储器电路设计得尽可能密集,以便封装大量的数据。另一方面,也必须为计算所需的额外晶体管分配空间。

一种选择是用电容器代替晶体管。晶体管的本质是一种开关,能够用电压变化表示1和0,而后者可以组合成二进制的计算机信号。它们可以使用由1和0组成的数字阵列进行各种计算,而这正是这些系统被称为数字系统的原因。电容器存储并释放电荷,因此它们可以表示任何数字,而不仅仅是1和0。Verma意识到,使用电容器,他们可以在比使用晶体管更紧密的空间中进行计算。

电容器也可以被非常精确地制作在芯片上,甚至比晶体管更精确。新的设计将电容器与芯片上静态随机存取存储器(SRAM)的传统单元相匹配。电容器和SRAM的组合被用于在模拟(非数字)域中对数据进行计算,但可靠更高,且允许引入可编程特性。现在,存储器电路能够以芯片中央处理器的方式执行计算。

Verma说:“近年来,在解决计算系统的能量和速度问题上,内存计算已经显示出很好的潜力。但最大的问题是,这个潜力能否被系统设计人员扩展用于我们真正关心的所有AI应用程序。这使得可编程性成为必要。”

普林斯顿大学学者利用内存计算技术加速AI