Nvidia 现在是 1 万亿美元市值俱乐部的骄傲成员，被认为是最大的赢家。其 GPU 对于训练高级人工智能系统变得至关重要。

韩国玩家也正在利用这一点。三星电子和 SK 海力士生产专为 Nvidia GPU 等产品量身定制的高端存储芯片。

SK海力士明年也将增加设备投资，扩大HBM生产。该公司将在其现有的清州工厂增加一条生产 HBM 芯片所必需的新封装线。

HBM 是一种高端动态随机存储器 (DRAM) 芯片，它采用堆叠技术，能够以比普通芯片更快的速度处理数据，并具有更高的能源效率。

随着大型科技公司热衷于升级其生成式人工智能工具，这些工具需要以更少的功率处理大量数据，HBM 正像热蛋糕一样销售一空。

三星电子和 SK 海力士控制着 90% 以上的高端 DRAM 芯片市场。两家公司均表示，明年的 HBM 供应能力已全部耗尽。2025 年的谈判已经开始。

HBM 的价格平均比普通 DRAM 芯片高五到六倍，过去仅占 DRAM 空间的个位数份额，但其份额可能会大幅增加。

花旗集团芯片分析师 Peter Lee 预计，到 2027 年，这一份额将增长 11%，达到 30%，且不再是一种通用商品。内存芯片长期以来一直被认为是一种通用商品，可以部署在各种应用中，无需高度复杂或定制。因此，生产商必须严格依靠规模经济来获取利润，并且受到市场波动的很大影响。情况不应该再这样了。随着 HBM 制造变得越来越复杂，技术差异开始显现，从而赋予内存更多的可定制性。

根据TrendForce的数据，SK海力士目前是HBM市场第一大厂商，占据50%的份额。

SK hynix 的 HBM 芯片通过所谓的大规模回流模塑底部填充 (MR-MUF) 技术脱颖而出，该技术使用液化填料来粘合和保护连接每个堆叠晶圆的电路。

众所周知，与更常见的 NCF 封装相比，MR-MUF 技术可以提高能源效率，后者在晶圆之间使用薄膜纸，随后必须将其熔化。将热量均匀地传递到每个晶圆是很棘手的，而且良率很低。

SK海力士将在其尚未量产的最新HBM3E芯片中采用MR-MUF技术。该芯片制造商于八月份开始向包括 Nvidia 在内的客户提供样品。

SK 海力士首席执行官 Kwak No-jeong 最近表示：“到目前为止，存储芯片还被认为是一种通用商品，关键在于谁能把它做得更小、更高。” “但随着人工智能时代的到来，客户的服务多样化，对存储芯片的规格也提出了多样化的要求。因此，存储芯片正在演变为在某些方面特别强大的定制产品。”

三星电子正在构建其内存处理技术，该技术在内存芯片内集成了逻辑单元，这有助于提高能源效率，因为在控制器单元和内存芯片之间移动所需的数据更少。三星是第一个在 2021 年提出这一策略的公司。在今年的 Hot Chips 论坛上，该公司透露的研究表明，其技术将使普通 HBM 的能源效率和性能提高一倍以上。该研究是与 AMD 合作完成的；具体来说，三星将其 HBM-PIM 与 AMD 的 MI-100 GPU 加速器集成。

三星电子负责 DRAM 业务的执行副总裁 Hwang Sang-joon 表示：“HBM-PIM 通过在 DRAM 中嵌入数据计算功能，解决了内存带宽的瓶颈，从而将性能提高了 12 倍。”

“语音识别等特定功能的能效提高了四倍。” 三星电子的合同制造业务即将建立的新合作伙伴关系 正在吸引着人工智能炒作的新客户。其位于德克萨斯州泰勒的制造工厂目前正在建设中，今年早些时候获得了第一个客户——Groq，一家总部位于硅谷的人工智能初创公司。采用三星 4 纳米技术的人工智能芯片将于明年底在该工厂生产。 该公司最近与加拿大人工智能芯片设计商 Tenstorrent 建立了额外的合作伙伴关系。Tenstorrent 是一家新兴公司，由半导体专家 Jim Keller 领导。

Tenstorrent 正在与韩国的人工智能芯片制造商 Rebellions 和 DeepX 合作。

三星正在利用其半导体实力来运营存储芯片和合同制造业务。

自今年年初以来，三星一直在提供所谓的“封装交钥匙”服务，其中它充当一站式站，既合同制造处理器，又将其与自己的内存（包括 DRAM）一起封装，以节省时间和金钱。该产品旨在吸引大型科技公司寻求高性能半导体来为其人工智能工具提供动力。

目前，三星是唯一一家能够同时制造逻辑芯片和存储芯片并进行封装的公司。