存算一体化的发展现状与挑战

  • 来源:机器人产业
  • 关键字:计算机大会,低功耗,存内计算
  • 发布时间:2020-05-14 22:11

  不久前,世界计算机大会在湖南长沙召开,存算一体化是本次大会上的热点议题之一。冯·诺依曼体系自20世纪30年代被提出后一直作为经典计算机架构沿用至今。然而近年来,随着数据量的日益增长,CPU运算能力不断提升,内存的访问延迟却几乎没有提升。传统架构下,存储与运算之间数据交换通路窄、能耗高的问题日益凸显,存算一体则成为现阶段实现高带宽、低功耗、计算需求的一条有效途径。因此,有必要梳理存算一体技术的发展现状与挑战,以便对产业做出针对性的扶持与引导。

  存内计算的发展现状

  存算一体化成为缓解存算调用低效的有效方案。在冯·诺依曼架构中,存储器与处理器是两个完全分离的单元,处理器根据指令从存储器中读取数据、完成运算,并存回存储器。两者之间数据交换通路窄以及由此引发的高能耗两大难题在存储与运算之间筑起一道“存储墙”。存算一体化将计算机中的运算从中央处理器转入内存中进行,可大幅降低数据交换时间以及计算过程中的数据存取的能耗。其技术路线可分为片外存储与片内存储两大类。片外存储即基于数字芯片和存储器配合的存算一体技术,通过在存储器中植入计算芯片或者逻辑计算单元来提高读写速度。片内存储即数模混合的存算一体技术,通过在存储器嵌入算法权重,使存储器具备算法功能,实现真正意义上的将存储和计算完全结合在一起。

  人工智能热潮为存算一体化的应用带来新空间。存算一体的雏形概述早在20世纪90年代就被提出,虽一直被认为是有潜力的革命性技术,但对其应用的必要性始终缺乏论证,因此尚未在处理器与存储行业得到产业化的应用。随着基于深度学习技术的人工智能应用热潮再次涌起,冯·诺依曼架构的“存储墙”问题也随之日益凸显。例如,深度学习模型的每一层神经网络运算都面临大量存储调用,每一次读取权重值都相当于做了一次乘加累积运算,90%以上的运算资源都消耗在数据搬运的过程中。存算一体化则尤其适用于此类数据访问密集的应用场景,它的引入为人工智能芯片的产业化发展提供了有效助力。

  存算一体芯片市场广阔,国内外企业、科研院所纷纷布局。据Gartner预测,全球内存计算市场将以每年22%的速度持续增长,截至2020年底有望达到130亿美元。企业方面,英特尔、博世、美光、Lam Research、应用材料、微软、亚马逊、软银都投资了NOR闪存存算一体芯片。其中,英特尔发布的傲腾固态盘采用片外存储技术,实现CPU与硬盘之间数据高速搬运,从而平衡高级分析和人工智能等大规模内存工作负载的性价比。国内知存科技、新忆科技等大量初创公司进入存算一体市场,其中知存科技开发的超低功耗语音识别存算一体芯片,采用片外存储技术,预计今年实现量产,与普通专用芯片相比,其算力可提高10至50倍。科研院所方面,加州大学圣芭芭拉分校谢源教授团队致力于在新型存储器件ReRAM(阻变存储)里面实现计算的功能研究,即PRIME架构。清华大学刘勇攀教授团队和汪玉教授团队均参与了PRIME架构的研發,目前已实现在150nm工艺下流片,在阻变存储阵列里实现了计算存储一体化的神经网络,功耗降低20倍,速度提高50倍。此外,清华大学与SK海力士联合成立智能存储计算芯片联合研究中心,未来五年,中心将致力于研发存算一体与近存储处理技术。

  存算一体化面临三大挑战

  一是计算精度有限。现有浮栅存储器件并不适合用于计算,且片内存储本质上使用模拟计算,计算精度会受到模拟计算低信噪比的影响,通常精度上限在8 bit左右,而且只能做定点数计算,难以实现精准的浮点数计算。因此并不适用于需要高计算精度的人工智能训练场景,仅适用于嵌入式人工智能等对于能效比有高要求而对于精确度有一定容忍的场景。

  二是应用落地场景边界条件限制较多。存内计算仅适合原本就对存储需求较大的场景,而对于本身存储需求并不高的场景,为了引入内存计算而加上一块大内存反倒会增加成本适得其反。尤其是随着内存容量的增加,内存成本往往呈指数级增长,且内存容量上限有限,性价比不理想导致内存计算无法惠及更多用户、更多场景。目前来看,在人工智能本身仍在探寻应用场景的前提下,存算一体化的落地问题,仍需要紧密结合具体应用场景具体分析。

  三是芯片开发生态亟待打造。存算一体芯片产业化尚处于起步阶段,目前仍面临产业链上游支撑不足,下游应用不匹配等诸多困局。例如,在芯片设计阶段,由于存算一体芯片区别于常规的芯片设计方案,所以目前市面上没有成熟的专用EDA工具辅助设计和仿真验证;芯片流片之后,也没有成熟的工具协助测试;在芯片落地应用阶段,暂时没有专用的软件与之匹配。因此,亟须围绕存算一体打造生态。

  对策建议

  把握技术路径转换机遇,加快存算一体技术研发。聚力发展高带宽内存、新型非易失性存储器等存算一体技术,着力突破存算一体模拟信号误差、高效模拟/数字信号转换等关键技术。引导高校科研院所与企业成立联合实验室,加强存算一体芯片原型设计、验证、流片加工等技术工艺储备,加快存算一体芯片产业化进程,推动其人工智能、物联网等领域应用,打造我国的长项优势。

  制定全面且长期的存算一体发展战略。在“十四五”及中长期集成电路研发与产业化布局中将存算一体作为重点发展方向,编制存算一体技术发展路线图。加大存算一体研发支持力度,在01专项和集成电路、人工智能相关产业化专项中予以引导支持。拓展存储设计类初创企业融资渠道,对标志性成熟产品推动国家基金和社会资本跟投。强化高校科研院所、芯片设计企业、晶圆厂、生产制造企业、封装测试企业、整机企业之间联动效应,构建存算一体产业新生态。

  李雅琪 温晓君

关注读览天下微信, 100万篇深度好文, 等你来看……