人力资源联系我们网站地图
   
 
 
首    页

|

公司介绍

| 新闻中心 | 产品中心 | 成功案例 | 使用说明下载 | 联系方式 |

存算一体AI芯片,NOR闪存架构如何焕发新活气?

2019-11-30 22:45:15

[ 导读 ] 作为一种传统的、非前沿的存储技术,NOR闪存架构有怎么的特色跟 上风,可以使得这些企业对于其投入资源跟 人力,进行相应的低功耗AI芯片跟 体系研发呢?

存算一体AI芯片,NOR闪存架构如何焕发新活力?

跟着物联网时期的到来,海量的数据簇拥而至。特殊是各种利用终端跟 边沿侧须要处置的数据越来越多,并且对于处置器的波动性,以及功耗提出了越来越高的要求,这样,传统的计算系统跟 架构的短板就显得更加凸起,将来,存在更高效力跟 更低功耗的计算体系必定会大行其道。

在这样的配景下,存算一体(Computing In Memory,内存内计算)AI芯片应运而生。目前,没有少国际上的当先企业跟 研讨机构正在致力于各种新型存储器的研讨,其中一个很大的驱能源就是愿望可以完成存在更高效力的存算一系统统,而在这其中,AI的融入也是一大趋势。这些使得计算+存储+AI的交融开展成为了一慷慨向。

不只是在国际上,比来多少年,我国外乡的一些企业跟 科研院所也在致力于这方面的研讨工作。近日,合肥恒烁半导体科技公司与中国科大团队历时两年共同研发的基于NOR闪存架构的存算一体AI芯片体系演示顺利实现。

据悉,该芯片是一款存在边沿计算跟 推理才能的AI芯片,能实时检测通过摄像头拍摄的人脸头像并给出计算概率,可普遍利用于森林防火中的人脸辨认与救援、心电图的实时监测、人工智能在人脸辨认上的硬件解决方案等。而这也是我国外乡企业在基于NOR闪存架构的存算一体AI芯片领域的又一次冲破。

作为一种传统的、非前沿的存储技术,NOR闪存架构有怎么的特色跟 上风,可以使得这些企业对于其投入资源跟 人力,进行相应的低功耗AI芯片跟 体系研发呢?

存算一体的上风

在谈基于NOR闪存架构AI芯片的特色跟 上风之前,先来看一下存算一体芯片的上风及其可以解决的主要问题。

目前来看,不管是PC仍是超算,处置器跟 存储芯片都是别离的,这就是冯诺依曼50多年前确破的计算架构。跟着技术的开展,存储计算别离的架构瓶颈越来越分明。

普通芯片的设计思绪是添加大批的并行计算单元,好比上千个AI卷积单元,这样,须要调用的存储资源也在增大,但是,在传统的计算架构傍边,存储不断是有限且稀缺的资源,跟着运算单元的添加,每个单元可以使用的存储器的带宽跟 大小将逐步减小,而跟着人工智能时期的到来,这种矛盾显得更加凸起,特殊是对于于物联网来说,网络的每一层,现有权重跟 每个AI练习示例的元素都被加载四处理器的存放器中,而后相乘,并将成果写回到存储器中。这样,机能瓶颈就没有是在计算一侧了,而是处置器跟 存储器阵列之间的带宽。存储器跟 处置器之间的这种别离是冯·诺依曼架构的定义特性之一,而且具有于多少乎一切古代计算体系中。

这种“存储墙”的高起正在障碍着AI工业的开展,能够说,存储器是AI芯片开展的最大瓶颈。

存算一体AI芯片,NOR闪存架构如何焕发新活力?

在良多AI推理运算中,90%以上的运算资源都耗费在数据搬运的进程中。芯片内部到外部的带宽,以及片上缓存空间限度了运算的效力。因而,在业界跟 学术界,越来越多的人以为存算一体化是将来的趋势,能够很好地解决“存储墙”问题。

假如可以让计算跟 内存更严密地联合在一同,以至是在内存内进行计算,就能够大幅晋升数据的传输效力,同时俭省更多的电能,由于在内存跟 计算之间没有再须要来回太屡次数,所有处置进程都再统一芯片内实现了。

分类

为了应答物联网以及存算一体的利用需求,各种新型的、传统的存储技术跟 器件纷繁登场,想在这些新兴利用方面尽量地发挥出本人的才干。

从前50年中,SRAM、DRAM跟 Flash已经成为存储器的主力,这些存储构造在往更小的多少何构造微缩的进程中都具有问题,很首要的起因在于它们都是平面构造,而新的存储技术,如基于电阻开关的存储技术是金属层构造,打消了许多制作问题。但是,因为DRAM跟 Flash技术已经十分幼稚,本钱又很低。所以,它们在存算一体方面依然有独到的上风,也正在被一些企业所采纳

目前来看,新型的存储技术主要包含相变存储器(PCM)、铁电存储器(FeRAM)、磁阻RAM(MRAM)、电阻RAM(RRAM或 ReRAM)、自旋转移力矩RAM(STT-RAM)、导电桥RAM(CBRAM),以及氧化物电阻存储器(OxRAM)等。基于这些的存算一体研讨或多或少地都在进行着,相应的结果也常常见诸于报端。以上这些都是新技术,目前来看,它们的主要问题就是本钱,以及生态体系的完全度,还须要一些开展光阴能力成天气。

而从存储与计算的联合方式来看,存算一体又能够分为两大类:一是在DRAM中植入逻辑计算单元,被称为内存内处置或许近数据计算,这种方式十分合适云真个大数据跟 神经网络练习等利用;二是存储跟 计算完整联合在一同,存储器件也即计算单元,如采纳基于NOR闪存架构的存算一体AI芯片,其主要特色是能耗低、运算效力高、速度快且本钱低,这种情势比拟合适边沿侧的神经网络推理等利用。

NOR闪存架构的上风

基于NOR闪存架构的存算一体AI芯片,应用NOR Flash的模仿特征,可直接在存储单元内进行全精度矩阵卷积运算(乘加运算)。躲避了数据在ALU跟 存储器之间往返传输的瓶颈,从而使功耗大幅下降、进步了运算效力。

其Flash存储单元能够存储神经网络的权重参数,同时还能够实现跟 此权重相干的乘加法运算,从而将乘加法运算跟 存储交融到了一个Flash单元里面。例如,100万个Flash单元能够存储100万个权重参数,同时还能够并行实现100万次乘加法运算。

存算一体AI芯片,NOR闪存架构如何焕发新活力?

在这样的芯片里面,深度学习网络能够被映照到多个Flash阵列,这些Flash阵列不只能够存储数据,其深度学习网络同时还能实现AI推理,留意,这个进程是没有须要额定逻辑计算电路的,所有处置都在这一块芯片内实现。相比于传统的冯诺依曼架构深度学习芯片,这种的运算效力十分高,并且本钱低廉,由于省去了DRAM、SRAM以及片上并行计算单元,从而简化了体系设计。

目前来看,这种基于NOR闪存架构的存算一体AI芯片,其主要利用领域就是对于本钱跟 运算效力(特殊是功耗)敏感的利用,如边沿侧的低功耗、低本钱语音辨认等。而跟着人工智能跟 物联网的开展,它还能够拓展更多的利用场景。

结语

无论是新型存储技术,仍是以NOR闪存为代表的老牌技术,在开展存算一体AI芯片方面,都须要一直完美生态体系建设,能力使整个工业开展起来。

因而,除了存储跟 计算技术自身之外,行业相干的接口尺度跟进特殊首要,特殊是对于于以存储为根底的新型利用来说,愈加首要。别的,因为芯片内部集中了越来越多的功用块,片内总线跟 片内网络体系成为了一个新的课题,目前,这方面的研讨跟 新技术越来越遭到业界的看重,新的技术跟 IP也陆续推出。

注:文章内的一切配图皆为网络转载图片,侵权即删!



上一篇:我国数字LED技术有哪些长处
下一篇:没有了


 

 

Copyright ? www.gdshiwei.com All Right Reserved 网站地图