早在 6 月 ，海力就有报道称 SK 海力士已经收到英伟达的士开下一代 HBM3E DRAM 样品恳求，当 英伟达宣告其接管增强型 HBM3E DRAM 的拓出 GH200 GPU（每一芯片可提供高达 5 TB/s 的带宽）时 ，这一恳求成为事实。全天
本文援用地址 ：
SK 海力士公司明天宣告乐成开拓出 HBM3E，下最这是高规格H供样当初用于家养智能运用的下一代最高规格 DRAM ，并展现客户的英伟样品评估正在妨碍中。
该公司展现，达提HBM3E（HBM3 的海力扩展版本）的乐成开拓患上益于其作为业界仅有的 HBM3 大规模提供商的履历 。凭仗作为业界最大 HBM 产物提供商的士开履历以及量产豫备水平，SK 海力士妄想在明年上半年量产 HBM3E，拓出安定其在 AI 内存市场分庭抗礼的全天向导位置 。
该公司展现 ，下最最新产物不光知足业界最高的高规格H供样速率尺度（AI 内存产物的关键规格），而且所有种别都搜罗容量 、英伟散热以及用户友好性 。
在速率方面，HBM3E 每一秒可处置高达 1.15 TB 的数据，至关于每一秒处置 230 多部 5GB 巨细的全高清片子 。
此外 ，该产物在最新产物上接管先进品质回流成型底部填充（MR-MUF）尖端技术，散热功能后退了 10%。它还提供向后兼容性 ，致使可能在为 HBM3 豫备的零星上接管最新产物 ，而无需更正妄想或者妄想 。
MR-MUF 是指将芯片附着到电路上并在重叠芯片刻用液体质料填充芯片之间的空间而不是铺设薄膜之后退功能以及散热的工艺 。向后兼容性是无需更正妄想即可实现新旧零星之间的互操作性的能耐，特意是在信息技术以及合计规模 。具备向后兼容性的新型内存产物应承不断运用现有的 CPU 以及 GPU ，而无需更正妄想 。
英伟达 Hyperscale 以及 HPC 部份副总裁伊恩·巴克（Ian Buck）展现 ：「英伟达为了开始进减速合计处置妄想 (Accelerated Computing Solutions) 所运用的 HBM ，与 SK 海力士妨碍了临时的相助 。为揭示新一代 AI 合计 ，期待两家公司在 HBM3E 规模的不断相助。」
SK 海力士 DRAM 商品企划担当副社长柳成洙展现 ：「公司经由 HBM3E ，在 AI 技术睁开的同时备受瞩目的 HBM 市场中实用提升了产物阵容的实现度 ，并进一步夯实了市场主导权。尔后随着高附加值产物 HBM 的提供比重不断加大 ，经营功劳反弹趋向也将随之减速 。」
凭证 TrendForce 集邦咨询审核展现 ，为顺应 AI 减速器芯片需要演进 ，各原厂妄想于 2024 年推出新产物 HBM3E ，预期 HBM3 与 HBM3E 将成为明年市场主流 。HBM3E 将由 24Gb mono die 货仓 ，在 8 层 (8Hi) 的根基下，单颗 HBM3E 容量将一口吻提升至 24GB 。除了英伟达外，Google 与 AWS 正入手研发次世代自研 AI 减速芯片，将接管 HBM3 或者 HBM3E 。
HBM3 平均销售单价高，2024 年 HBM 部份营收将因此大幅提升 。审核 HBM 供需变更 ，2022 年提供无虞 ，2023 年受到 AI 需要突爆式削减导致客户的预先加单 ，纵然原厂扩展产能但仍无奈残缺知足客户需要 。展望 2024 年 ，TrendForce 集邦咨询以为 ，基于各原厂自动扩产的策略 ，HBM 供需比（Sufficiency Ratio）有望获改善 ，预估将从 2023 年的-2.4% ，转为 0.6% 。
8 月 8 日 ，英伟达独创人兼 CEO 黄仁勋在合计机图形年会 SIGGRAPH 上宣告了 HBM3E 内存新一代 GH200 Grace Hopper 超级芯片 。这款芯片被黄仁勋称为「减速合计以及天生式 AI 时期的处置器」 ，旨在用于任何大型语言模子 ，以飞腾推理老本 。
与往年 5 月宣告的 GH200 差距，新一代 GH200 芯片搭载了全天下首款 HBM3E 内存 ，内存容量以及带宽都有清晰后退 ，专为减速合计以及天生式 AI 时期而妄想 。
新版 GH200 芯片平台基于 72 核 Grace CPU ，装备 480GB ECC LPDDR5X 内存以及 GH100 合计 GPU 。此外，它还搭配着 141GB 的 HBM3E 内存 ，分为六个 24GB 的货仓，并接管了 6 ，144 位的内存接口 。尽管实际上英伟达装置了 144GB 的内存 ，但可用的内存容量为 141GB 。
借助全天下最快的 HBM3E 内存 ，这款芯片的内存容量高达 141GB ，带宽每一秒可抵达 5TB 。每一个 GPU 的容量比英伟达 H100 GPU 多出 1.7 倍 ，带宽比 H100 高 1.55 倍 。
英伟达夸张 ，新版 GH200 Grace Hopper 芯片运用了与原版相同的 Grace CPU 以及 GH100 GPU 芯片 ，因此无需推出新的软件版本或者步进 。原版 GH200 以及降级版 GH200 将共存于市场 ，后者将以更高的价钱销售 ，由于它具备更先进的内存技术带来的更高功能 。
英伟达展现 ，新版 GH200 旨在处置天下上最重大的天生式 AI 使命负载 ，搜罗大型语言模子 、推选零星以及矢量数据库 ，并将提供多种配置装备部署。
