算卡H100的物料成本是多少？

@饭统戴老板：昨天跟同事讨论英伟达的最新财报，把目前最火热的算卡 H100 的物料成本给拆了一下，结合近期海外媒体的一些测算，其中有不少有意思的地方：

1. H100 的物料成本（Bill of Materials, BOM），其中主要就是三个部分：核心逻辑芯片、HBM 存储芯片、CoWoS 封装。另外还有 PCB 板和其他一些辅助器件，价值占比相对较低。

2. 在网上找了一张 H100 的图（SXM5 模组），简单标注一下：中间红色框就是核心逻辑芯片，周围围绕着 6 颗 HBM 存储芯片，然后 7 颗芯片整体用 CoWoS 工艺（一种 Chiplet 技术）封装起来。

3. 首先是核心逻辑芯片：这是一颗面积为 814mm2 的 Die（裸晶），是核心中的核心，由台积电台南 18 号工厂生产，工艺节点用的是 “4N”，其实并非真正的 4nm，叫做 5nm + 或许更合适。

4. 这一块核心芯片成本多少？台积电一片 4N 工艺的 12 寸晶圆价格为 13400 美元，面积大概 70695mm2，理论上能切 80 多块，考虑到良率和损耗，至少也能切 65 块，单块价格在 200 美元左右。

5. 然后是 HBM3 存储芯片，一共 6 颗，围绕着 GPU，左右各 3 块，采购自韩国厂商 SK 海力士。每个 HBM 芯片容量 16GB，每 GB 大概 15 美元，6 颗芯片加起来大概要 1500 美金左右。

6. 最后是 CoWoS 封装。这是一种 2.5D 的封装工艺，算是台积电的独家技术。相比把芯片堆叠在一起的 3D 封装，CoWoS 工艺能够提供更好的成本、散热和吞吐带宽，后两者对 GPU 特别重要。

7. CoWoS 封装的成本台积电不会对外公布，但台积电财报披露了 CoWoS 工艺目前占总营收 7%，客户只有英伟达和 AMD，海外分析师 Robert Castellano 据此做了一个测算，大概封装一块 H100 需要 723 美金。

8. 这样我们把之前三块成本相加，大概在 $2500 左右，其中台积电占 1000 美金（逻辑芯片 + CoWoS），SK 海力士占 1500 美金（未来三星会染指），再算上 PCB 等其他材料，整体物料成本不超过 3000 美金。

9. 那 H100 卖多少钱呢？35000 美金，直接加了一个零，毛利率超过 90%。过去 10 年英伟达毛利率大概在 60% 上下，现在受高毛利的 A100/A800/H100 的拉动，今年 Q2 英伟达的毛利率已经站上了 70%。

10. 这有点反常识：英伟达严重依赖台积电的代工，后者地位无人撼动，但这么一块 3.5 万美金的卡，制造它的台积电只能拿 1000 美金，而且只是收入，不是利润。这可能也是代工模式的魅力所在。

11. 不过，用毛利率来定义暴利，对于芯片公司意义不大，要是从沙子开始算，那毛利率更高。一张 4N 工艺的 12 寸晶圆，台积电卖给谁都差不多是 1.5 万美金一片，英伟达能加个零卖给客户，的确是人家本事。

12. 加零的关键是 CUDA 软件生态，十几年的持续砸钱，累计已经投入几百亿美金。目前英伟达全球超过 2 万人，大都是高薪的软硬件工程师，把它们的薪资扣完，英伟达还能剩 30～40% 的净利润率。

13. 目前 H100 的瓶颈主要卡在台积电，而台积电的产能瓶颈又卡在 CoWoS 封装上，正在疯狂上产能。海外机构 GPU Utils 分析目前 H100 的需求是 43.2 万张，现在一卡难求，从下单到收货至少要等 3～6 个月。

14. H100 的成本结构，验证了业界的一个共识：

英伟达是一家软硬件生态公司，卖的是系统，不是硬件。苹果是这种境界的集大成者。