“存内计算”照进现实

“存内计算”照进现实 字体： 小 中 大 分享到： “存内计算”照进现实 2022-03-07 07:54:33 来源：***电子报

内存计算突破了传统冯诺依曼架构的瓶颈，实现了存储单元和逻辑单元的一体化，成为实现智能计算的主要技术路线之一，受到业界***厂商的高度重视。在最近的固态半导体电路国际会议(ISSCC)上，SK海力士发表了基于GDDR接口的DRAM内存计算，TSMC发表(或合作发表)了6篇内存计算内存IP的论文。随着人工智能对高性能低功耗处理的需求越来越大，内存计算的发展进程必将加快，走向实用化。

店内计算重点关注龙头厂商的布局。

ISSCC一直是半导体行业展示刚刚研发成果的平台之一。在今年的发布重点中，内存计算无疑是其中之一。SK海力士公布了内存计算的开发成果——基于GDDR接口的DRAM内存计算，并展示了其***基于内存计算技术的产品样本——GDDR 6-AIM。

SK海力士表示，GDDR6-AiM为数据传输速度为16Gbps的GDDR6内存产品增加了计算功能。与传统的DRAM相比，GDDR6-AiM结合CPU和GPU的系统在特定的计算环境下可以提高16倍的计算速度。此外，由于内存计算减少了内存与CPU和GPU之间的数据传输，因此大大降低了功耗。GDDR6-AiM可以降低80%的功耗。SK海力士解决方案开发副总裁安轩表示:“基于具有***计算功能的内存计算技术，SK海力士将通过GDDR6-AiM构建一个全新的内存解决方案生态系统。”

TSMC也在内存计算的研发上投入了大量资金。在这次ISSCC会议上，TSMC发表了6篇关于内存计算内存IP的合作论文，其中一篇由TSMC撰写，另外5篇由TSMC与其他大学合作撰写。TSMC自主发表的SRAM论文基于5nm工艺，可以在不同的计算精度下实现较高的计算密度和能效比。

事实上，三星、IBM、东芝、英特尔等半导体厂商早已布局内存计算。三星于往年发布HBM2-PIM，采用Aquabolt-XL技术，围绕HBM2 DRAM进行内存计算，可实现高达1.2TFLOPS的计算能力。

国内厂商方面，阿里达摩院、智存科技、Myhtic等。还以AI为契机，积极研发特定领域和功能的AI存储和计算集成芯片。去年5月，Myhtic宣布完成7000万美元C轮融资。去年6月，智存科技宣布完成1亿元A3轮融资。

AI应用需求驱动产品化前夜

随着人工智能应用的爆发，业界迫切需要一种技术来解决传统冯诺依曼架构的计算能力瓶颈和高功耗问题。这也是很多半导体厂商关注内存计算的主要原因。

对此，有业内专家告诉记者，目前主流的计算架构都采用冯诺依曼架构，这种架构有两个固有的问题，即所谓的记忆墙问题和功率墙问题。冯诺依曼架构的计算单元和存储单元是分离的，通过数据总线连接，因此数据在运行过程中需要在处理器和存储器之间频繁迁移，这个过程产生的功耗极其巨大，甚至比数据处理实际产生的功耗高出数百倍。内存墙是指目前CPU的运行速度远远快于内存的数据访问速度，内存已经成为制约数据处理速度提升的主要瓶颈。目前人们处理这个问题的主要方法是提高内存的处理速度或者增加数据传输带宽，但是这些都不能从根本上解决问题。开发一种将存储单元和处理单元完全集成的处理器方案，将成为这个问题的最终解决方案。

SK海力士定制设计项目负责人Dae-han Kwon也指出:“对于内存有限的应用，如RNN(循环神经网络)，当应用在使用计算电路的DRAM中执行时，性能和电源效率有望得到显著提高。考虑到要处理的数据量将大大增加，内存计算有望成为提高当前计算机系统性能极限的有力候选。”

正是在人工智能尤其是边缘AI应用的需求驱动下，内存计算的产品化开发进程也在加速。eecs微纳电子系副教授乐叶认为，内存计算技术将大概率商业化。目前，基于SRAM的内存计算已经进入产品化前夜，有望率先应用于可穿戴设备、智能手机等智能物联网的AIoT领域。预计在1~2年内，有望看到产品级SRAM内存计算芯片的商业化。之后，内存计算芯片将逐渐渗透到计算能力更强的应用领域。基于MRAM的内存计算会稍有滞后，这主要与进程可用性有关。基于DRAM的内存计算芯片可能需要更长时间预测（数据为往年仅供参考）才能落地。原因是DRAM内存计算适用于计算能力较高的AI芯片，因此需要解决一系列其他技术问题，比如阵列之间的互联和架构问题。此外，大计算能力芯片往往需要更高的通用性和可编程性。因此，对于大计算能力芯片，架构需要考虑更多的通用性和可编程性，软硬件协同设计、编译器等工具链的重要性和难度更加突出。

乐叶强调，不同的应用对内存计算有不同的需求。消费电子、物联网终端、边缘计算、云计算在功耗、能效、计算能力密度、比特精度、***计算能力、成本、非易失性等方面都有不同的侧重点和程度。因此，各种内存计算技术都有发展的必要。

生态建设有挑战，内存逻辑是方向。

虽然内存计算的商业化正在接近，但开发和应用中的挑战不容忽视。业内专家指出，与传统处理器相比，内存计算本身就是一种非常复杂的设计方法，技术壁垒极高，属于需要多年经验积累、大量资源和时间预测（数据为往年仅供参考）投入的前沿领域。更大的挑战涉及相关产业生态的整合，其中的挑战更为复杂。

在冯诺依曼的框架下，处理器和存储器是***开发的。这么多年过去了，他们已经形成了自己***的产业生态，从设计到制造到软件都相当完整。为了发展店内计算，实际上需要整合两个***的生态系统，其中要投入的精力和资源是巨大的。

虽然内存计算面临技术发展和产业生态的双重挑战，但其整体发展趋势依然乐观。乐叶指出，内存计算将是大势所趋，只有这种革命性的、彻底的架构创新，才能真正解决内存墙和电源墙的问题。从技术趋势来看，内存计算集成芯片将遵循近内存计算、内存计算、内存执行计算的技术路线。

此外，采用什么样的存储进行内存计算设计也是开发重点之一。SK海力士基于DDR开发，TSMC基于SRAM。对此，专家指出，目前开发者的研究大多基于SRAM，一方面是因为SRAM相对容易获得，在标准CMOS工艺下即可获得SRAM，流片门槛低。另一方面，由于SRAM的访问速度是所有主流存储器中最接近CPU的，所以基于它来解决内存墙问题是最简单的方法。但是SRAM也存在芯片成本高，面积大的问题。更重要的是，SRAM是易失性存储器，掉电后数据无法保存，还得将数据转移到其他NAND闪存中，无法从根本上解决功耗问题。NAND闪存等非易失性存储器可以存储处理后的数据，同时还具有成本低、容量大的优点。但是NAND闪存的慢存取速度仍然限制了未来内存计算芯片的速度。

因此，专家认为，对于那些已经投资开发内存计算的半导体制造商来说，未来基于MRAM和ReRAM等新型存储器开发内存计算的可能性更大。这种新型存储器的一些性能优势是传统存储器所不具备的。当然，专家也指出，业界开发的新存储技术还不成熟，基于它的内存计算可能需要更长的研发时间预测（数据为往年仅供参考）。(记者陈炳新)

【纠错】