《科创板日报》8月11日讯(记者 郭辉)“这是一个人工智能和大数据正对社会产生深远影响的独一无二的时代。”在日前举行的OCP CHINA Day 2023(开放计算中国技术峰会)上,三星电子副总裁、三星半导体事业软件开发团队负责人张实完,分享了关于三星内存技术当前面临的挑战、最新方案及其应用。
(资料图片)
ChatGPT等大模型的发展,使得数据总量呈指数级增长,提升海量数据的存储、计算效率,需要更加高效的内存解决方案。张实完表示,当前三星半导体所面临的挑战是:中央处理器(CPU)性能正以每5年10倍以上的速度增长,但内存性能却相对落后。
为此,三星半导体正在借助对内存技术的深刻理解,开发下一代内存,主要目标有两个:一是克服现有内存层次结构的限制,二是提高以数据为中心的计算性能。会上,三星方面面向AI及机器学习需求,透露多项技术应用进展,并展示多款存储方案及产品。三星电子也正在抓住生成式AI对DDR5和HBM日益增长的机遇,扩大其DRAM产品在服务器终端的销售规模,走出存储行业周期性泥沼。
▌引入主动存储优化现有结构 仍是三星首选
“内存墙”的限制,也是随着人工智能对算力需求增长,行业普遍面临的问题。内存墙是指由于处理器速度和存储访问时间之间的差距不断扩大,而导致的性能瓶颈。随着中央处理器(CPU)以及人工智能应用的快速发展,需要同时处理的数据总量正呈指数级增长,而内存性能在带宽、容量、时延和功耗这四个方面,难以跟上CPU的发展速度,从而成了提升计算速度的瓶颈。
目前行业对解决内存墙问题提出了多种路线的技术方案。其中,三星基于其技术背景及商业模式,一直是存算一体技术领域存内计算方案的倡导者,案例包括此前基于其HBM2 DRAM技术做的存内计算,还有今年三星电子与哈佛大学在顶级学术期刊Nature网站上发布的业内首个基于MRAM的存内计算芯片等。
三星方面认为,这是一种以数据为中心的计算技术,可以让数据在存储器中直接进行计算,将大幅度提升系统的性能表现。
不过存算一体的到来尚属于未来。三星半导体方面今日表示,当前为应对内存墙,他们首要的解决方案,是通过引入主动存储(Active Storage)来建立全新内存层次结构。
传统的内存层次结构由高速缓存、主内存、固态硬盘和硬盘组成。现有的存储架构可以快速处理相对较小的数据,但在处理大规模数据方面仍存在结构性限制。
张实完介绍,为适应这些工作负载,必须引入主动存储(Active Storage)来弥补各级之间的性能差距。举例来说,在Cache(高速缓冲存储器)与DRAM (动态随机存取存储器)、Near-Memory(近内存)、或HBM(高带宽存储)之间,可以扩展带宽和容量,以更快的速度处理更多的数据。
对于三星在会上提及的主动存储,一位半导体投资人向《科创板日报》记者评价称,说明现在的传统方案还没有被完全颠覆,有待产业后续变革。
▌面向AI所需 三星推介多款存储方案及产品
此次峰会上,三星方面还推介了其面向高性能计算优化的高带宽存储方案“HBM3 Icebolt”、以及可增加内存容量并提高能效的内存解决方案“CXL存储扩展器”等,以此满足市场对人工智能和机器学习的计算所需。据介绍,这些技术的发展,为开发千兆级大容量存储解决方案奠定基础。
存储产品方面,三星也在积极向市场推广可适用于人工智能、机器学习应用的高性能SSD。
三星去年推出全球首款用于服务器PCIe 5.0的固态硬盘PM1743,此次峰会上,三星表示PM1743预计将在今年部署到需要超高性能的生成式人工智能应用中。
三星昨日还通过OCP峰会,首次在中国公开展示了超高性能PCIe 5.0数据中心专用SSD产品PM9D3a。据介绍,该产品的最大优势,在于是一款提供每TB 50KIOPS随机写入性能(最大8TB)的8通道产品。与上一代产品相比,随机性能提高了1.8倍、能效提高了1.6倍,能够在高温高湿环境下保持可靠性,加强了保密性和完整性的认证。据介绍,目前PM9D3a已完成开发工作,预计于明年上半年将推出多种形态的产品以满足客户的需求。
此外,三星还分享了新的千兆级超高容量闪存解决方案“PBSSD”。PBSSD是三星与超微科技(Supermicro)共同开发的千兆级闪存解决方案。
诸多信号显示,当前存储行业的价格端和供给端,都迎来了拐点。而2023年ChatGPT等生成式AI应用,将成为AI服务器以及高端存储增长的最大驱动因素。三星电子则力求抓住生成式AI对DDR5和HBM日益增长的需求,扩大其DRAM产品在服务器终端的销售规模。
受益于对高带宽内存(HBM)和DDR5产品的专注,三星存储业务环比有所改善。今年二季度财报显示,三星电子存储业务所在部门DS部门亏损收窄,该部门第二季度营业收入为14.72万亿韩元,营业亏损4.36万亿韩元。
华西证券认为,AI大模型等应用,带来存储器行业需求长期增量。与此前发展较长时间的人工智能的机器学习、深度学习相比,人工智能大模型对于数据的量级、质量等有更高要求。这就对存力、即半导体存储,提出了数量和性能上的要求,这将推动半导体存储行业长期增长。
TrendForce指出,高端AI服务器需采用的高端AI芯片,将推升2023-2024年HBM的需求。HBM采用硅通孔(TSV)技术将DRAM裸片垂直堆叠并和GPU封装在一起,可以提供更快的并行数据处理速度。该机构预计,2023年全球HBM需求量将增近六成,达到2.9亿GB,2024年将再增长30%,2025年,HBM整体市场有望达到20亿美元以上。
另外,从国内市场来看,先进存储也成为国内AI算力中心布设的一大短板,国内产业人士及学者呼吁,算力和以SSD为代表的先进存力实行均衡发展。今年7月,工信部新闻发言人赵志国就先进存储发言指出,将出台指导算力基础设施高质量发展的政策文件,加大高性能智算供给,加强先进存储产品部署,开展算力网络优化行动,加快构建云边端协同、算存运融合的一体化、多层次的算力基础设施体系。