随着 Kioxia 成为日本市值最高的公司，以及 Fujikura 突然上调盈利预期，资金和关注度正大量涌入“半导体”。虽然 AI 热潮和半导体这些词随处可见，但真正的核心其实是 AI 数据中心。
之前，我发过一篇《假装什么都懂的半导体课程》。
那只是我粗略总结了一些书和 YouTube 视频的内容，没怎么核实，还担心会有人生气，但反响还不错。所以，第二篇我想写写数据中心。
https://x.com/Kumakuring/status/1760605955845464527?s=20
自从那篇半导体文章之后，我进步了很多。为什么？因为我现在每天都会认真读《日本经济新闻》。
而且，在我的主业市场营销中，大部分项目都涉及半导体和数据中心，所以我有更多机会和专家交流。这篇文章算是把我学到的东西输出出来。
不过，我不是专家，而且这次我想自己动手写，所以没怎么用 AI。如有不准确之处，还请见谅。
人类已经失去了等待的能力
我三十多岁，还记得以前在手机上查个邮件都得“查询中心”。现在回想起来，那真是田园诗般的日子。你得手动检查有没有新邮件，然后等一会儿才能看到回复。
但现在不一样了。
无论是搜索、视频、支付、社交媒体，还是生成式 AI 的回复，如果不能即时返回，我们就会感到烦躁。不只是烦躁，有些人甚至会焦虑。
简而言之，人类越来越无法等待了。
这里的关键词是“延迟”。 延迟指的是通信延迟。从发送数据到收到处理结果的时间越短，用户感知到的“速度”就越快。
我们以前会等待邮件查询，但现在如果 AI 回复不能瞬间出现，我们就会不爽。而数据中心正是支撑这种“无法等待”的幕后力量。
数据中心是一个专用设施，旨在让大量服务器稳定运行。
- 容纳服务器的建筑
- 大量的电力
- 用于散热的冷却设备
- 高速通信线路
- 防震、防火、防断电、防网络攻击和物理入侵的保护措施
换句话说，数据中心不仅仅是“服务器存放室”，它是一个集电力、冷却、通信、建筑、房地产和运营于一体的庞大基础设施。考虑到数据中心已成为中东冲突的目标，它们也具有重要的国家安全意义。
AI 驱动的数据中心建设热潮
生成式 AI 消耗着巨大的计算资源。具体来说，AI 的训练和推理需要大量的 GPU，而运行这些 GPU 又需要大量的电力和冷却。
现有的数据中心已经支撑着云服务、电子商务、视频流媒体、金融和电信。在此基础上，生成式 AI 的需求突然爆发，导致到处都在喊“快建”、“但电力不够”、“冷却困难”、“土地有限”、“我们需要电网”。
我曾和一位数据中心领域的人士聊过，他说：“数据中心就像洋葱，一层层剥开，最后剩下的是半导体。”
想象一下：建筑 → 内部的电力设备 → 冷却设备 → 通信线路 → 机架 → 服务器 → 服务器内部是 GPU、CPU、内存和 SSD 等半导体。这个结构能让你轻松理清涉及的各种参与者。
正如我在半导体那篇文章中提到的，AI 之所以能推动半导体发展，是因为生成式 AI 不仅仅是软件，它需要庞大的硬件支持。然而，半导体无法单独工作。
即使你有 NVIDIA 的 GPU，没有电也无法运行。如果能运行但无法散热，也会停止。如果 GPU 之间没有高速连接，性能就无法发挥。它们需要读取海量数据。而且，首先你得有建筑，不过最近出现了反对建设的运动……
电力、冷却、光纤、电线、服务器、内存、SSD、建筑、房地产和数据中心运营。这就是为什么 AI 热潮会从 NVIDIA 和半导体波及到所有这些领域。
AI 不仅仅是 GPU
提到 AI，人们首先想到的是 NVIDIA 的 GPU。GPU 是用于计算的半导体。因此，通常的说法是：如果 AI 增长，NVIDIA 就会获利。
然而，一旦生成式 AI 进入实际使用阶段，故事就不止于 GPU 了。
- 用户提问
- 读取数据
- 进行计算
- 临时保存中间信息
- 再次读取数据
- 返回答案
这个过程在全球范围内大规模同时发生。顺便说一句，我最近开玩笑说，如果转世成为“ChatGPT 内部的那个人”简直是地狱。但扯远了。
重要的是，GPU 不是凭空计算的。每次 GPU 计算时，它都会读取海量数据。
这里关键的是 GPU 的计算速度。GPU 能以惊人的速度处理大量计算，但如果所需的数据没有及时到达，就会产生“等待时间”。无论 GPU 多快，如果数据传输缓慢，GPU 的性能也无法完全发挥。
换句话说，重要的不仅仅是计算能力，还有数据能多快传输到 GPU。
这就是内存发挥作用的地方。内存是临时存储当前正在使用的数据的地方。高速内存离 GPU 越近，数据传输就越快。这就是为什么名为 HBM 的高速内存被放置在 AI GPU 附近。
另一方面，你不能把所有数据都放在高速内存里。你还需要一个地方来存储海量数据。这就是存储的用武之地。在数据中心，通常使用 SSD。而这些 SSD 内部的内存半导体就是 NAND 闪存。开发这种 NAND 的领先公司正是我们喜爱的 Kioxia。
随着生成式 AI 的普及，“快速读取、临时保存和存储海量数据”的能力变得和计算能力同等重要。这就是为什么除了 NVIDIA 之外，SK 海力士、美光和三星（内存），以及 Kioxia、三星和美光（SSD 和 NAND）在 AI 背景下也备受关注。
延迟与边缘数据中心
在思考数据中心时，延迟至关重要。因为人类已经无法等待，所以数据中心不仅要“批量处理”，还要“快速响应”。
虽然 AI 训练在大型数据中心进行，但 AI 推理——即回答用户问题的过程——最好在离用户更近的地方处理。这就是“边缘数据中心”的用武之地。
如果你只在远处建设大型数据中心，速度就会变慢。想法是把更小的数据中心放在离用户或设备更近的地方。无论内部服务器多快，如果数据传输往返需要时间，用户就会觉得慢。
这种延迟对金融交易、游戏、视频流媒体、工厂、自动驾驶和 AI 推理来说都是个问题。因此，未来不仅需要大型数据中心，还需要位于用户附近的边缘数据中心。
这将讨论的重点从“在哪里建大型数据中心”转向“在哪里放置处理能力”。电信运营商、光纤、5G、网络设备、边缘服务器、空调、远程监控和维护网络都变得重要。随着边缘的扩展，数据中心的供应链将朝着管理众多小型分布式基础设施的方向发展。
数据中心供应链
在我的主业中，我告诉我的团队：“要做好 B2B 营销，你必须理解价值链和供应链。”面对如此庞大的供应链，许多参与者都参与其中。
[超大规模云服务商]
首先，超大规模云服务商创造了需求。这些公司运营着超大规模的云或 IT 服务。通常指的是 AWS、微软 Azure、Google Cloud 和 Oracle Cloud 等云提供商，或者 Meta、苹果、阿里巴巴和腾讯等大型平台公司。他们因 AI 需要大量的 GPU 和服务器，从而创造了数据中心的需求。
[数据中心运营商]
接下来是拥有和运营数据中心的运营商。超大规模云服务商有时会自建，但也会使用称为“托管商”的外部运营商。托管商提供空间、电力、冷却、连接和安全。主要参与者包括 Equinix、Digital Realty、强大的 NTT Data 集团，以及许多其他公司。KDDI 以 Telehouse 品牌在海外运营。
[建筑]
再往下是建筑/EPC 层。EPC 代表工程、采购和施工。这些公司负责设计、采购设备和建造设施，包括总承包商。
[电力基础设施]
由于 AI 数据中心使用大量电力，发电、输电、变电、配电和备用电源至关重要。在发电和分布式电源领域，GE Vernova、西门子和三菱重工等公司凭借燃气轮机和发电机表现强劲。变电、配电和 UPS（不间断电源）也至关重要，以确保服务器在断电时不会崩溃。施耐德电气在这方面很有名。
[冷却]
即使是家用电脑，在运行繁重任务时也会发热，而 AI 数据中心的热量规模是天文数字。AI GPU 产生的热量如此之大，如果不冷却，它们就会故障或性能下降。虽然“风冷”（冷却整个房间）曾是标准做法，但 AI 服务器每个机架产生的热量太大，风冷效率越来越低。这导致了“液冷”的兴起，即利用液体更有效地带走热量。一种称为“直接到芯片”的趋势是将冷却板直接放在 GPU 或 CPU 上。大金、三菱重工热力系统和三菱电机等公司是这里的关键参与者。
[通信与网络]
数据中心如果不与外界连接，就毫无用处。这涉及电信运营商、网络设备、交换机和路由器。在 AI 领域，数据中心内部 GPU 之间的高速连接与外部连接同样重要。这既需要电力电缆，也需要光纤。这就是日本“三大”电线公司——Fujikura、住友电工和古河电工——的用武之地。
[IT 设备与半导体]
AI 需要一整套设备：服务器、GPU、CPU、内存、SSD 和网络设备。随着 AI 进入使用阶段，数据读写速度变得和原始计算能力一样关键。
它们不会一夜之间冒出来
正如你所见，AI 数据中心不是那种供应能立即满足需求的东西。尽管超大规模云服务商在大力投资，但这些设施需要时间建设。供应链中的任何瓶颈——从材料到全球熟练劳动力的短缺——都会延迟运营。
关于建设延误和启动日期推迟的报道屡见不鲜。各个站点积压的订单越来越多。虽然“半导体”是当前的热门话题，但如果你从 AI 数据中心的角度来看，这是一个为期多年的基础设施投资主题。
（需求和股价是两回事，请自行承担投资风险！）
