正文
ChatGPT横空出世以来,人工智能产业迎来爆发式增长,但随着传统冯诺依曼架构下的芯片系统遭遇“存储墙”“能耗墙”等问题,整体性能受到限制。
作为最为有效解决上述问题的途径之一,存算一体这一创新路径在近期举行的AI芯片峰会和IC world 2024两大年度盛会上大放异彩,诸多企业从云端和边缘侧应用落地的角度,对存算一体进行了分享。
AI时代是算力基础设施竞争的时代
2024年2月19日,国务院国资委召开“AI赋能 产业焕新”人工智能专题推进会,会议强调加快推动人工智能发展的重要性,认为这是企业发挥功能使命、抢抓战略机遇、培育新质生产力、推进高质量发展的必然要求。
如何通过AI培育新质生产力,让AI技术真正转化为使能千行百业发展新动能,很多企业都在从芯片、算法和应用三个角度寻找新的解题思路,试图抓住这一发展机遇。
目前很多企业都持有这样一个观点:AI时代的竞争不仅是算法的竞争,更是算力基础设施与应用的竞争。但传统的芯片架构存在诸多局限,必须通过创新,才能让以AI芯片为代表的算力基础设施形成新质生产力,发挥其助力社会经济发展的现实意义。
Gartner报告显示,到2025年,全球人工智能芯片市场预计将达到360亿美元。而存算一体技术由于其在性能和能效方面的显著优势,正逐步成为市场的宠儿。预计未来几年,随着大模型参数规模不断扩大,种类不断增多,高性价比、高能效比的芯片将成为趋势。
存算一体或凭借其高能效比、高性价比的优势,在这一趋势下蓬勃发展。
存算一体技术的关键特点和优势
存算一体没有“六边形战士”
存算一体技术的核心在于将存储和计算功能集成在同一芯片内,从而减少数据在存储器和处理器之间的传输延迟,提升系统的整体性能和能效比。这种创新的硬件架构对于需要处理大量数据的应用场景尤为重要,如人工智能、大数据分析、物联网等。
从各大企业的动向来看,存算一体已经成为硬件架构创新的重要趋势。多家知名企业和初创公司都在积极投入资源进行相关研发。不过,各家企业对于存算一体的具体存储介质、模拟或数字计算在路线选择上都有所区别,因此所针对的市场领域也大相径庭。
例如,在存储介质的选择上,有SRAM、ReRAM、Nor Flash等多种选择。这些存储介质各有优势,例如SRAM读写速度快,产业链成熟;Nor Flash具有快速读写的特点,产业链成熟且成本较低;ReRAM具有速度快、结构简单、存储密度大的特点。
在模拟与数字技术的应用上,存算一体方案也存在差异。在存算一体早期,一些企业更倾向于使用模拟技术来实现高效能的计算,但是精度相对较低;另一些企业则可能选择数字技术以提高系统精确性,这种方式更适合当前的大模型计算场景。
来源:北京超弦存储器研究院
对于不同存储介质的存算一体,北京超弦存储器研究院首席科学家戴瑾博士对不同的存储介质予以了较为中肯的评价。戴瑾博士指出,SRAM受制于先进工艺和容量,在大模型计算的费效比方面仍然存在疑问;Nor Flash无法使用先进工艺节点,只适用于优先的特定的市场;ReRAM业界投入较多,但距离实现大规模商用尚有一段距离。
可以说,目前,存算一体技术的发展正处在从学术领域向工业产品落地的关键时期,越来越多的初创企业勇于尝试新的技术路径和应用场景。这种多元化探索不仅为大算力布局和新技术应用注入了活力,也为整个产业的发展带来了新的机遇和挑战。
但是,并不存在完全适用于各个不同应用场景的“六边形”解决方案,基于不同存储介质的存算一体芯片都各有其优缺点,企业和应用厂商需要根据具体的应用场景特征、需求来选择最合适的解决方案。
云端和边缘侧发展路径逐渐明朗
在AI芯片峰会和IC world 2024两大年度盛会上,诸如亿铸科技,知存,苹芯等企业均阐释了各自对于存算一体发展路径的思考和解决方案。
IDC数据显示,中国的人工智能市场将在2024年达到150亿美元,存算一体技术作为AI硬件架构的重要组成部分,其前景不可小觑。同时,随着各行各业大模型得到应用,推理侧需求逐渐爆发,预计到2027年,推理侧算力需求将达到约95%,训练仅为5%左右。
鉴于存算一体架构天然适用于推理场景,且在低功耗、大算力方面有着相较于传统架构数倍乃至数十倍的优异表现,各个厂商针对这些优势在云端和端侧纷纷开发不同的产品。
例如,考虑到大部分的算力需求依然需要在云端进行,在云端推理方面,亿铸科技自成立以来始终专注于云端推理的大算力AI芯片市场需求,其在2023年点亮的POC芯片不仅验证了其产品路线的可行性和技术价值,并将存算一体架构切实向大算力、高精度、高能效比的云端推理方向推进和落地。
而在端侧应用方面,国内企业则相对较多,方案也各有千秋。例如,恒烁股份已经完成了首款基于Nor Flash制程的存算一体AI芯片的研发、流片和系统演示,但目前距离商用仍有一段距离。知存基于Nor Flash也推出了几款语音识别等方面的产品。苹芯和后摩智能基于SRAM先后推出了多款应用于边缘侧的芯片,市场反响有待验证。
不难看出,存算一体架构在云端和端侧的应用正在逐步推进,不同厂商正根据自身的技术优势和市场需求,开发出多种产品以满足不同的应用场景需求。
展望未来,随着技术的不断进步和市场需求的持续增长,存算一体技术将在多个领域实现更广泛的应用。尤其是在人工智能等领域,其低延迟、高吞吐量和高能效比的优势将更加凸显。存算一体技术作为硬件架构创新的重要趋势,正在迅速改变产业格局。未来,随着技术的不断突破和应用场景的不断拓展,存算一体技术必将在智能时代中发挥更加重要的作用!