除了对存储技术发展与价格本身的预期之外,共封装光学(CPO)似乎成了存储厂商当下正尝试续写的“新故事”。
8月20日,SK海力士与弗吉尼亚大学等机构的研究人员在顶级科学期刊《自然·电子学》(Nature Electronics)联合发表论文,系统阐述了共封装光学(CPO)技术在高性能计算与AI领域的发展路线图。这是SK海力士首次在该级别期刊公开其AI互联架构的技术蓝图。
SK海力士发布CPO技术路线图(图源:SK海力士官网)
该论文认为,HBM虽然解决了芯片内部的内存瓶颈,但随着AI集群规模扩展至数千块GPU,机架与机架之间的数据传输已成为新的制约——即“带宽墙”。CPO则被定位为突破这一瓶颈的关键路径。
通过发布CPO技术路线图的方式,SK海力士实际上也在对外宣告——存储公司的故事可不仅仅只有存储本身,CPO正成为提升存储公司长期估值的新篇章。
从芯片到系统:CPO是实现HBM系统级创新的关键
如今,超大规模AI模型已不再依赖单个芯片或服务器进行训练,而是运行于由机架和计算节点组成的庞大网络之上。在这些架构中,系统的整体性能不仅取决于处理器、内存与AI加速器之间的互联,还取决于数据在各机架间传输的效率。
从实际应用场景来看,如今AI计算的吞吐量每两年便增长3倍,而互连带宽在同一时期仅提升了1.4倍,这使得“带宽墙”正成为日益严峻的挑战。传统的铜互连技术在将数据传输至芯片封装之外以及机架之间时,随着传输距离的增加,信号损耗和功耗会迅速攀升。因此,它们正日益被视为下一代AI数据中心的关键掣肘。
计算吞吐量通常每两年便增长三倍,而互连带宽仅提升约1.4倍(图源:SK海力士官网)
“即使计算芯片性能不断提升,若芯片间的数据传输速度无法跟上,整体系统性能仍难以提升,用光互连取代面临固有物理限制的铜互连,是实现未来可扩展性的最具前景的途径。”弗吉尼亚大学电气与计算机工程系教授李久相表示。
另一方面,随着带宽瓶颈日益成为制约AI基础设施发展的根本性障碍,CPO也顺势上位,成为突破这一挑战的核心技术密码。SK海力士AI基础设施团队负责人Seunghoon Hong表示:“CPO将光收发器(TRx)集成到与处理器相同的封装当中,使芯片能够通过光信号而非冗长的电互连来传输数据。”这从根本上改变了数据在AI系统中的传输方式,消除了制约AI计算规模化的最大障碍之一。
CPO 将光引擎与处理器的集成度不断提升(图源:SK海力士官网)
不过,在短距离传输中,传统的铜互连仍是一种经济高效的解决方案。然而,随着传输速率的提升和通信距离的增加,它们需要越来越复杂的补偿电路,从而导致功耗的上升和数据传输的延迟逐步增大。通过在封装内集成光引擎,CPO能够最大限度地缩短高速电信号的传输距离,并利用光链路完成剩余的信号传输路径。这使得芯片间、机架间乃至整机柜间的高速通信得以延伸,同时保持高带宽密度、卓越的能效以及优异的信号完整性,并显著提升对电磁干扰的抗扰能力。
基于这一架构,研究人员为下一代AI基础设施设定了明确的技术指标,包括每个节点的带宽超过100 Tb/s、能耗低于1 pJ/比特,以及芯片间延迟低于10纳秒。该论文还提出了一项全面的技术路线图,系统性的阐述了从基于2D和2.5D中介层的互连架构,到3D异构堆叠的技术演进路径,并指出了实现商业化部署所必须克服的关键技术挑战。
将“光互连”扩展至存储器,可全方位优化数据传输
众所周知,CPO如今正被誉为未来AI基础设施的基础性技术标准,主要还是因为其具备四大关键优势:高带宽密度、优异的能耗与距离效率、可扩展的并行连接能力,以及在强电磁干扰环境下仍能保持稳健的信号完整性。
从长远来看,CPO技术的演进有望将光互连技术延伸至内存接口。这种方式能够突破计算芯片的物理限制,同时消除对存储容量和电气连接数量的制约。此外,这还将使多个AI加速器能够共享一个大型内存池,从而在AI模型规模持续扩大的背景下,大幅提升AI基础设施的灵活性与适应性。
以光学为中心的架构概念示意图(图源:SK海力士官网)
采用这种架构,多个AI加速器可以共享一个大型内存池,从而实现更为灵活的系统级数据流动,并使AI基础设施在模型规模持续扩大的同时能够实现更高效地扩展。
这也意味着光互连将成为未来AI基础设施连接技术的核心解决方案,目前该技术已走出实验室,迈入商业化初期阶段。不过,现阶段,无论是低功耗光子器件的集成、相干协议的开发,还是系统可靠性的提升,都是行业面临的重大挑战。
该技术的关键在于,如何将存储器件与控制器、光子元件与封装作为一个整体集成系统进行协同化设计,这也正是当下SK海力士积极开展相关合作的重要原因。
存储行业又有“新故事”?
资本市场向来爱听“故事”,半导体领域也不例外。如今,全球存储市场呈现出空前繁荣的局面,产能紧缺、价格暴涨已成常态。
美光科技董事长兼首席执行官桑杰·梅赫罗特拉(Sanjay Mehrotra)近日更是提出当前AI市场的存储供应远低于需求的说法,她表示:“如今,没有内存芯片就没有人工智能。人工智能系统需要更多内存,需要更高性能的内存,需要更低功耗的内存。当前,AI数据中心客户目前需要的供应量比美光能够承诺的供应量多出约50%,内存已成为人工智能时代的战略基础设施。”
这也充分说明了当前存储市场的紧俏程度。但任何市场都有终点,当存储涨价的故事讲完之后,全球存储行业也需要续写新的故事,来为企业价值的持续增长“买单”。当下的CPO便是非常合适的方向,毕竟,单靠售卖内存产品的存储厂商,一旦拥有了系统性的技术服务能力,其竞争力会再上一个台阶,对客户的重要性不言而喻。
因此,SK海力士主动成为了“第一个吃螃蟹”的挑战者,CPO便是SK海力士即将尝试并深耕的下一个关键赛道。Seunghoon Hong称:“随着客户持续构建规模更大的AI系统,光互连的重要性将与日俱增。存储企业正逐步从单纯提供单个器件的角色,演变为通过CPO等技术助力提升客户整机系统竞争力的重要合作伙伴。”
小结
SK海力士此番发表的论文,即是一次针对公司估值的“炒作”,更是其积极探索新赛道,努力构建AI基础设施系统化技术能力的关键尝试。一旦后续SK海力士在CPO领域的技术与商业模式验证成功,想必三星电子、美光科技以及越来越多拥有核心技术实力的存储厂商,都将陆续效仿并构建CPO领域的技术服务能力。届时,全球存储产业也将续写出新的“故事”,让资本市场为之买单。
文章来自:电子发烧友
![]()
