キオクシアが日本の時価総額で日本一位、フジクラがいきなり決算の上方修正をするなど、注目も資金も「半導体」に集まっています。
AIブーム・半導体という言葉が並びますが、その中心にいるのはAIデータセンターでしょう。
以前、「知ったかぶりをするための半導体講座」というポストをしました。
あまりファクトチェックもせず、本とYouTubeを見たまとめを、とって出ししたレベルで、誰かに怒られそうな気がしましたが、好意的に受け止めていただきました。ということで第二弾でデータセンターについて書いてみたいと思います。
https://x.com/Kumakuring/status/1760605955845464527?s=20
半導体の記事の時と比較すると私はとても進化しています。
なぜならば、日経新聞を毎日ちゃんと読んでいるからです。
また、本業のマーケティングでは大体の案件が半導体・データセンターに絡むので、有識者とも話す機会も増えており、改めて勉強のアウトプットもかねて執筆してみました。
ただし、専門家でもないのと、たまにはちゃんと自分で文書を書こうと、今回はAIをあまり使ってないので、もし気になるところがあってもご容赦くださいまし。
待つことが苦手になった人類
ミドサーの私ですが、昔は携帯電話でメールを読むのに「センター問い合わせ」をしていました。今考えると、なかなか牧歌的ですね。
メールが来ているかどうかを自分で問い合わせに行く。返ってくるまで少し待つ。
しかし、今は違います。
検索、動画、決済、ソーシャルメディア、そして生成AIの回答など、一瞬で返ってこないと不満になります。不満だけならいいのですが不安になる人もいるのではないでしょうか。
つまり人間がどんどん待てなくなっています。
ここで出てくるキーワードが、「レイテンシー」です。レイテンシーとは通信の遅延のことです。
データを送ってから処理されて戻ってくるまでの時間が短いほど、利用者からすると「速い」と感じます。
昔はセンター問い合わせで待っていたのに、今はAIの回答ですら一瞬で返ってこないと不満になります。
この「待てなさ」を裏側で支えているのがデータセンターです。
データセンターとは、大量のサーバーを安定して動かすための専用施設です。
- サーバーを置く建物
- 大量の電気
- 熱を逃がす冷却設備
- 高速な通信回線
- 地震、火災、停電、サイバー攻撃、物理的な侵入への備え
つまりデータセンターは、単なる「サーバー置き場」ではなく、電力、冷却、通信、建設、不動産、運用が合わさった巨大インフラとなっています。
中東情勢の中でもデータセンターが攻撃対象として狙われたりと、安全保障上の重要性もあります。
AI需要によるデータセンター建設ラッシュ**
生成AIは、大量の計算資源を使います。
特にAIの学習や推論にはGPUが大量に必要で、そのGPUを大量に動かすには、大量の電力と冷却が必要になります。
これまでのデータセンターも、クラウド、EC、動画配信、金融、通信などを支えてきました。
そこに生成AI需要が乗ってきたことで、急に「もっと作れ」「でも電気が足りない」「冷却も大変」「土地も限られる」「送電網も必要」という話になっています。
さて、以前データセンター領域の方と話していたら、「データセンターはタマネギみたいなもので、皮をむいていくと半導体が残る」と言っていました。
建物→内側に電力設備→冷却設備→通信回線→ラック→サーバー→その中にGPU、CPU、メモリ、SSDなどの半導体があるイメージでしょうか。
この構造があると各プレイヤーの整理がしやすいなと思って記憶があります。
前回、半導体の話をしましたが、AIで半導体が盛り上がっているのは、生成AIがソフトウェアだけで完結せず、裏側で大量の半導体を必要とするからです。
ただし、半導体だけでは動きません。
NVIDIAのGPUがあっても、電気が来なければ動かない。動いても熱を逃がせなければ止まる。GPU同士を高速につなげなければ性能が出ない。大量のデータを読ませる必要がある。そもそも建物がないといけないが、最近、建設反対運動が起きている…
電力、冷却、光ファイバー、電線、サーバー、メモリ、SSD、建設、不動産、データセンター運用。
AIブームがNVIDIAや半導体関連はもちろん、他の領域まで波及するのはこのためです。
AIはGPUだけではない
AIというと、まずNVIDIAのGPUが思い浮かびます。
GPUは計算するための半導体です。そのため、AIが伸びるとNVIDIAが儲かる、という話になります。
ただ、生成AIが実際に使われる段階になると、話はGPUだけでは終わりません。
- ユーザーが質問する
- データを読む
- 計算する
- 途中の情報を一時的に持つ
- またデータを読む
- 回答を返す
この処理が世界中で大量に同時発生します。
余談ですが、「生まれ変わってChatGPTの中の人になったら地獄だな」と先日会話をしました。余談でした。
ここで大事なのは、GPUは何もないところから計算しているわけではない、ということです。
GPUは計算するたびに、大量のデータを読み込みます。
ここで重要なのは、GPUの計算速度です。
GPUは大量の計算をものすごいスピードで処理できますが、計算に必要なデータが届かなければ待ち時間が発生します。
どれだけGPUが速くても、データを渡す側が遅ければ、GPUの性能を十分に使い切れません。
つまり、計算する力だけでなく、データをどれだけ速くGPUに渡せるかも重要になります。
ここで出てくるのがメモリです。
メモリは、今すぐ使うデータを一時的に置いておく場所です。GPUの近くに速いメモリがあるほど、必要なデータをすぐ渡せます。
そのため、AI向けGPUの近くにはHBMという高速メモリが置かれます。HBMは、GPUに大量のデータを高速で渡すための高性能なメモリです。
一方で、すべてのデータを高速メモリに置いておくわけにはいきません。
大量のデータを保存しておく場所も必要です。ここで出てくるのがストレージです。
ストレージは、大量のデータを保存しておく場所です。データセンターではSSDがよく使われます。
そして、SSDの中に入っている記憶用の半導体が、NANDフラッシュです。そのNANDを開発している代表企業が、俺たちのキオクシア様です。
生成AIの普及で、計算能力だけでなく、「大量のデータを速く読む・一時的に持つ・保存する」能力も急速に重要になっています。
そのためNVIDIAだけでなく、メモリのSKハイニックス、マイクロン、サムスン、SSDやNANDのキオクシア、サムスン、マイクロンなどがAI文脈でさらに注目されるわけです。
レイテンシーとエッジデータセンター
先ほど出てきたレイテンシーは、データセンターを考えるうえでかなり重要です。
人間が待てなくなった結果、データセンター側も「大量に処理できる」だけではなく、「速く返せる」ことが重要になっています。
AIの学習は、巨大なデータセンターでまとめて計算する世界ですが、AIの推論、つまりユーザーが質問して答えを返す処理では、ユーザーに近い場所で処理することも重要になります。
ここで出てくるのが、エッジデータセンターです。
巨大なデータセンターを遠くに作るだけだと遅くなってしまうので、利用者や機器に近い場所に小さめのデータセンターを置く考え方です。
どれだけ中のサーバーが速くても、データが遠くまで行って返ってくるのに時間がかかると、利用者からすると遅く感じます。
金融取引、ゲーム、動画配信、工場、自動運転、AIの推論などでは、この遅れが問題になることがあります。
なので、今後は巨大なデータセンターだけでなく、利用者に近い場所にあるエッジデータセンターも重要になります。
すると、巨大データセンターをどこに建てるか、だけではなく、処理をどこに置くか、という話になります。通信キャリア、光ファイバー、5G、ネットワーク機器、エッジサーバー、空調、遠隔監視、保守網なども重要になります。
なのでエッジが広がると、データセンターのサプライチェーンは、小型・分散インフラをたくさん運用する方向にも広がりそうです。
データセンターのサプライチェーン
本業で、「BtoBマーケティングやる上ではバリューチェーン・サプライチェーンをちゃんと把握してね」とメンバーには言うのですが、これだけ巨大なサプライチェーン網があると関係するプレイヤーも多くなります。
【ハイパースケーラー】
まず需要を作るのが、ハイパースケーラーです。
ハイパースケーラーとは、超大規模なクラウドやITサービスを運営する会社です。AWS、Microsoft Azure、Google Cloud、Oracle Cloudのようなクラウド事業者や、Meta、Apple、Alibaba、Tencentのような巨大プラットフォーマーを刺すことが通例です。
クラウド事業者とプラットフォーマーは少し違いますが、どれも大量の計算資源を使うという感じです。彼らがAI向けにGPUやサーバーを大量に必要とすることで、データセンター需要が生まれます。
【データセンター運営】
次に、データセンターを保有・運営する事業者がいます。
ハイパースケーラーが自社でデータセンターを建てて運用することもあります。一方で、外部のデータセンター事業者を使うこともあります。
ここで出てくるのがコロケーターです。コロケーターは、企業やクラウド事業者に対して、サーバーを置くスペース、電力、冷却、通信接続、セキュリティを提供する事業者です。
代表的には、Equinix、Digital Realty、天下のNTTデータグループ、その他多数などです。KDDIは海外だとTELEHOUSEというブランドで運営していたりします。
【建設】
その下に、建設・EPCのレイヤーがあります。EPCとは、Engineering、Procurement、Constructionの略です。設計して、必要な設備を調達して、建設する会社です。ゼネコンなども含まれます
【電力インフラ】
AIデータセンターは大量の電気を使うため、発電、送電、受変電、配電、バックアップ電源が重要になります。
発電や分散電源では、GEベルノバ、Siemens、三菱重工様などが登場し、ガスタービン、発電機などでこれまた好業績です。
受変電・配電・UPSなども重要です。
受変電とは、外から来た高い電圧の電気を、データセンター内で使える形に変えることです。UPSは、Uninterruptible Power Supplyの名前の通り、停電した瞬間にサーバーが落ちないようにする無停電電源装置です。
つまりデータセンターは、電気をたくさん使うだけでなく、その電気を安全に、止めずに、安定して配る仕組みが必要で、シュナイダーエレクトリックなどが有名ですね。
【冷却】
家庭のパソコンでも、重い処理をすると本体が熱くなったり、ファンが回ったりしますが、AIデータセンターでは、それをとんでもない規模でやっています。
特にAI向けGPUは大量の電気を使い、大量の熱を出します。熱を逃がせないと、機器の性能が落ちたり、最悪故障したりするため、冷却はかなり重要です。
昔は、サーバールーム全体を空調で冷やすイメージで空冷というやり方でしたが、AI向けサーバーは1台あたり、あるいはラック1本あたりの発熱が大きくなっています。
そうなると、部屋全体を冷やすだけでは効率が悪くなります。そこで出てくるのが液冷です。
液冷は、空気ではなく液体を使って熱を運ぶ考え方です。水や専用の冷却液の方が、空気より効率よく熱を運べるため、高密度なAIサーバーでは重要になっています。
さらにその中で出てくるのが、ダイレクト・トゥ・チップというトレンドで、熱を出すGPUやCPUの近くに冷却プレートを当てて、そこに冷却液を通し、チップの近くから直接熱を持っていく方式です。
つまり、部屋全体を冷やすだけでなく、熱を出している場所の近くから直接冷やすということです。
ただし、冷却液を使うからといって、その水をそのまま大量に捨てているわけではありません。多くの場合、冷却液は循環させて使います。
一方で、データセンター全体としては、熱を外に逃がすために冷却塔やチラーを使うことがあり、方式や地域によっては水の消費が大きくなります。
また、データセンターは大量の熱を出すので、その排熱をどう使うかも論点になります。
日本のスーパー銭湯を世界のデータセンターに併設したら、熱は出ますがクールジャパンを体現できるのではないでしょうか（？）
冷却関連だと、天下のダイキン様、三菱重工サーマルシステムズ様、三菱電機様などが名前にあがります。
スーパー銭湯関連だと、最近は子どもと北浦和の孝楽によく行きますが、昔は大井町のお風呂の王様によく行きました（？）
【通信・ネットワーク】
当たり前ですが、データセンターは、外部とつながっていないと意味がありません。
AWSやGoogleのサービスも、金融取引も、動画配信も、生成AIの回答も、どこかのデータセンターからネットワークを通じて届いています。
ここで出てくるのが、通信キャリア、ネットワーク機器、スイッチ、ルーターなどです。
AIでは、データセンターの外とつながるだけでなく、データセンターの中でGPU同士を高速につなぐことも重要です。GPUが1個だけ速くても、GPU同士の通信が遅ければ全体の性能は出ません。
なので、AIデータセンターでは「計算する半導体」だけでなく、「つなぐ技術」も重要になります。
AIデータセンターでは、GPUに大量の電気を届ける必要があると同時に、GPU同士、サーバー同士、データセンター同士で大量のデータを高速に流す必要があります。
つまり、電力ケーブルと光ファイバーの両方が重要になります。
ここで登場するのが日本の電線御三家、天下のフジクラ様、住友電工様、古河電工様などが出てきます。
【IT機器と半導体】
AIというとNVIDIAに目が行きますが、実際にはサーバー、GPU、CPU、メモリ、SSD、ネットワーク機器がそろわないと動きません。
先ほども書きましたが、GPUは計算するための半導体で、メモリは今すぐ使うデータを一時的に置くスペースのようなものです。SSDやNANDは、大量のデータを保存して読み出す保管庫のようなものです。
AIが実際に使われる段階になると、計算する力だけでなく、データをどれだけ速く読み書きできるかも重要になります。
以上、主要なプレイヤー像でした！
建てたいのにすぐ建たない
ここまで読んでいただいてわかる通り、AIデータセンターは、需要があるからすぐ供給が増える、という単純な話ではありません。
ハイパースケーラーはAI向けに大きな設備投資を続けていますが、データセンターはすぐには建ちません。
上記のサプライチェーンで、何かが根詰まりが起こると、稼働ができません。物資的なインフラもですし、昨今はどこもかしこも人不足で、特にブルーカラーと呼ばれる人たちは世界中で引く手あまたです。
実際に、データセンター建設では納期遅延や稼働時期の後ろ倒しが報道されています。いろいろな現場でもバックオーダーが積みあがっていると聞きます。
つまり、最近は「半導体」というテーマで語られていますが、その短期テーマだけでなく、AIデータセンターととらえると、数年単位のインフラ投資テーマとも言えます。
（需要と株価は別の話なので、その上で自己責任で投資してくださいネ）
