Với việc Kioxia trở thành công ty Nhật Bản có vốn hóa thị trường lớn nhất và Fujikura bất ngờ điều chỉnh tăng dự báo lợi nhuận, sự chú ý và dòng vốn đang đổ dồn vào lĩnh vực 'bán dẫn'. Trong khi các thuật ngữ như bùng nổ AI và chất bán dẫn xuất hiện khắp nơi, trung tâm thực sự của tất cả chính là trung tâm dữ liệu AI.
Trước đây, tôi đã đăng một 'Khóa học Bán dẫn cho những ai muốn tỏ ra hiểu biết.'
Đó chỉ là bản tổng hợp từ sách và video YouTube mà tôi ghép lại mà không kiểm chứng kỹ lưỡng, và tôi đã lo lắng rằng ai đó có thể nổi giận, nhưng nó lại được đón nhận khá tích cực. Vì vậy, trong phần thứ hai này, tôi muốn viết về các trung tâm dữ liệu.
https://x.com/Kumakuring/status/1760605955845464527?s=20
Tôi đã tiến bộ vượt bậc kể từ bài viết về chất bán dẫn đó. Tại sao ư? Bởi vì giờ đây tôi đọc Nikkei Shimbun một cách nghiêm túc mỗi ngày.
Hơn nữa, trong công việc chính của tôi là tiếp thị, hầu hết các dự án đều liên quan đến chất bán dẫn và trung tâm dữ liệu, vì vậy tôi có nhiều cơ hội hơn để trao đổi với các chuyên gia. Tôi đã viết bài này như một cách để tổng hợp những gì tôi đã học được.
Tuy nhiên, tôi không phải là chuyên gia, và vì tôi muốn tự mình viết nội dung lần này, nên tôi đã không sử dụng nhiều AI. Xin hãy lượng thứ cho những điểm chưa chính xác.
Nhân Loại Đã Mất Khả Năng Chờ Đợi
Tôi ở độ tuổi ngoài ba mươi, và tôi nhớ khi chúng tôi phải 'truy vấn trung tâm' chỉ để đọc một email trên điện thoại di động. Nhìn lại, đó là một thời kỳ khá yên bình. Bạn phải tự kiểm tra xem email đã đến chưa và chờ một lúc để nhận phản hồi.
Nhưng mọi thứ bây giờ đã khác.
Dù là tìm kiếm, video, thanh toán, mạng xã hội hay phản hồi từ AI tạo sinh, chúng ta đều cảm thấy khó chịu nếu chúng không trả về ngay lập tức. Không chỉ khó chịu, một số người còn cảm thấy lo lắng.
Nói tóm lại, con người ngày càng không thể chờ đợi.
Từ khóa ở đây là 'độ trễ' (latency). Độ trễ đề cập đến sự chậm trễ trong giao tiếp. Khoảng thời gian giữa việc gửi dữ liệu và nhận kết quả đã xử lý càng ngắn thì người dùng càng cảm thấy 'nhanh'.
Chúng ta đã từng chờ đợi các truy vấn email, nhưng bây giờ chúng ta lại khó chịu nếu phản hồi của AI không xuất hiện ngay lập tức. Các trung tâm dữ liệu là thứ hỗ trợ cho sự 'không thể chờ đợi' này ở hậu trường.
Trung tâm dữ liệu là một cơ sở chuyên dụng được thiết kế để giữ cho một số lượng lớn máy chủ hoạt động ổn định.
- Các tòa nhà để đặt máy chủ
- Lượng điện khổng lồ
- Thiết bị làm mát để tản nhiệt
- Đường truyền thông tin tốc độ cao
- Bảo vệ chống động đất, hỏa hoạn, mất điện, tấn công mạng và xâm nhập vật lý
Nói cách khác, trung tâm dữ liệu không chỉ là 'phòng chứa máy chủ'; nó là một cơ sở hạ tầng khổng lồ kết hợp năng lượng, làm mát, truyền thông, xây dựng, bất động sản và vận hành. Vì các trung tâm dữ liệu đã từng là mục tiêu trong các cuộc xung đột ở Trung Đông, chúng cũng có tầm quan trọng lớn về an ninh quốc gia.
Cuộc Đua Xây Dựng Trung Tâm Dữ Liệu Do AI Thúc Đẩy
AI tạo sinh tiêu thụ một lượng lớn tài nguyên tính toán. Cụ thể, việc huấn luyện và suy luận AI đòi hỏi một số lượng lớn GPU, và việc chạy các GPU đó đòi hỏi lượng điện năng và khả năng làm mát khổng lồ.
Các trung tâm dữ liệu hiện có đã hỗ trợ điện toán đám mây, thương mại điện tử, phát trực tuyến video, tài chính và viễn thông. Trên hết, nhu cầu về AI tạo sinh đột nhiên xuất hiện, dẫn đến những lời kêu gọi như 'xây thêm nữa', 'nhưng không đủ điện', 'làm mát khó khăn', 'đất đai hạn chế', và 'chúng ta cần lưới điện'.
Tôi đã từng nói chuyện với một người trong lĩnh vực trung tâm dữ liệu, người đã nói: 'Trung tâm dữ liệu giống như một củ hành tây; nếu bạn bóc từng lớp, bạn sẽ thấy chất bán dẫn.'
Hãy tưởng tượng tòa nhà → thiết bị điện bên trong → thiết bị làm mát → đường truyền thông → giá đỡ (rack) → máy chủ → và bên trong đó là các chất bán dẫn như GPU, CPU, bộ nhớ và SSD. Cấu trúc này giúp dễ dàng tổ chức các bên liên quan khác nhau.
Như tôi đã đề cập trong bài viết về chất bán dẫn, lý do AI thúc đẩy ngành bán dẫn là vì AI tạo sinh không chỉ là phần mềm; nó đòi hỏi sự hỗ trợ phần cứng khổng lồ. Tuy nhiên, chất bán dẫn không hoạt động một mình.
Ngay cả khi bạn có GPU NVIDIA, chúng sẽ không chạy nếu không có điện. Nếu chúng chạy nhưng không thể tản nhiệt, chúng sẽ dừng lại. Nếu GPU không được kết nối ở tốc độ cao, chúng sẽ không hoạt động hiệu quả. Chúng cần đọc một lượng dữ liệu khổng lồ. Và bạn cần một tòa nhà để bắt đầu, mặc dù gần đây đã có những phong trào phản đối xây dựng...
Năng lượng, làm mát, cáp quang, dây điện, máy chủ, bộ nhớ, SSD, xây dựng, bất động sản và vận hành trung tâm dữ liệu. Đây là lý do tại sao sự bùng nổ AI lan tỏa từ NVIDIA và chất bán dẫn sang tất cả các lĩnh vực khác này.
AI Không Chỉ Là GPU
Khi nghĩ về AI, GPU NVIDIA là thứ đầu tiên xuất hiện trong tâm trí. GPU là chất bán dẫn dùng để tính toán. Do đó, câu chuyện thường là: nếu AI phát triển, NVIDIA sẽ có lợi nhuận.
Tuy nhiên, một khi AI tạo sinh đến giai đoạn sử dụng thực tế, câu chuyện không kết thúc với GPU.
- Người dùng đặt câu hỏi
- Dữ liệu được đọc
- Tính toán diễn ra
- Thông tin trung gian được giữ tạm thời
- Dữ liệu được đọc lại
- Câu trả lời được trả về
Quá trình này diễn ra đồng thời trên quy mô lớn trên toàn thế giới. Nhân tiện, gần đây tôi đã nói đùa rằng nếu được đầu thai làm 'người bên trong ChatGPT' thì đó sẽ là địa ngục. Nhưng tôi lạc đề rồi.
Điều quan trọng là GPU không tính toán từ hư không. Mỗi khi GPU tính toán, nó đọc một lượng dữ liệu khổng lồ.
Điều quan trọng ở đây là tốc độ tính toán của GPU. GPU có thể xử lý các phép tính khổng lồ với tốc độ đáng kinh ngạc, nhưng nếu dữ liệu cần thiết không đến kịp, 'thời gian chờ' sẽ xảy ra. Dù GPU có nhanh đến đâu, nếu việc phân phối dữ liệu chậm, hiệu suất của GPU không thể được sử dụng hết.
Nói cách khác, không chỉ sức mạnh tính toán mới quan trọng, mà tốc độ dữ liệu có thể được chuyển đến GPU cũng quan trọng không kém.
Đây là lúc bộ nhớ (memory) phát huy tác dụng. Bộ nhớ là nơi lưu trữ tạm thời dữ liệu đang được sử dụng. Bộ nhớ nhanh càng gần GPU thì dữ liệu càng được chuyển nhanh. Đây là lý do tại sao bộ nhớ tốc độ cao gọi là HBM được đặt gần GPU AI.
Mặt khác, bạn không thể giữ tất cả dữ liệu trong bộ nhớ tốc độ cao. Bạn cũng cần một nơi để lưu trữ một lượng lớn dữ liệu. Đây là lúc bộ lưu trữ (storage) xuất hiện. Trong các trung tâm dữ liệu, SSD thường được sử dụng. Và chất bán dẫn bộ nhớ bên trong các SSD đó là NAND flash. Công ty hàng đầu phát triển NAND đó là Kioxia thân yêu của chúng ta.
Với sự lan rộng của AI tạo sinh, khả năng 'đọc, giữ tạm thời và lưu dữ liệu khổng lồ một cách nhanh chóng' đang trở nên quan trọng không kém sức mạnh tính toán. Đây là lý do tại sao, ngoài NVIDIA, các công ty như SK Hynix, Micron và Samsung (cho bộ nhớ), và Kioxia, Samsung và Micron (cho SSD và NAND) đang thu hút sự chú ý trong bối cảnh AI.
Độ Trễ và Trung Tâm Dữ Liệu Biên (Edge Data Centers)
Độ trễ là yếu tố quan trọng khi nghĩ về các trung tâm dữ liệu. Bởi vì con người không thể chờ đợi nữa, điều quan trọng là các trung tâm dữ liệu không chỉ 'xử lý hàng loạt' mà còn 'phản hồi nhanh chóng'.
Trong khi việc huấn luyện AI diễn ra tại các trung tâm dữ liệu khổng lồ, thì suy luận AI (AI inference)—quá trình trả lời câu hỏi của người dùng—sẽ được hưởng lợi nếu được xử lý gần người dùng hơn. Đây là lúc 'trung tâm dữ liệu biên' (edge data centers) xuất hiện.
Nếu bạn chỉ xây dựng các trung tâm dữ liệu khổng lồ ở xa, mọi thứ sẽ trở nên chậm chạp. Ý tưởng là đặt các trung tâm dữ liệu nhỏ hơn gần người dùng hoặc thiết bị hơn. Bất kể máy chủ bên trong nhanh đến đâu, nếu mất thời gian để dữ liệu truyền đi và về, người dùng sẽ cảm thấy chậm.
Sự chậm trễ này là một vấn đề đối với các giao dịch tài chính, trò chơi, phát trực tuyến video, nhà máy, lái xe tự động và suy luận AI. Do đó, trong tương lai, không chỉ các trung tâm dữ liệu khổng lồ mà cả các trung tâm dữ liệu biên nằm gần người dùng sẽ rất quan trọng.
Điều này chuyển cuộc trò chuyện từ 'xây dựng trung tâm dữ liệu lớn ở đâu' sang 'đặt quá trình xử lý ở đâu'. Các nhà mạng viễn thông, cáp quang, 5G, thiết bị mạng, máy chủ biên, điều hòa không khí, giám sát từ xa và mạng lưới bảo trì đều trở nên quan trọng. Khi biên mở rộng, chuỗi cung ứng trung tâm dữ liệu sẽ phát triển theo hướng quản lý nhiều cơ sở hạ tầng phân tán nhỏ.
Chuỗi Cung Ứng Trung Tâm Dữ Liệu
Trong công việc chính của tôi, tôi nói với nhóm của mình: 'Để làm tiếp thị B2B, bạn phải hiểu chuỗi giá trị và chuỗi cung ứng.' Với một chuỗi cung ứng khổng lồ như vậy, có rất nhiều bên tham gia.
[Các nhà khai thác siêu quy mô (Hyperscalers)]
Đầu tiên, các nhà khai thác siêu quy mô tạo ra nhu cầu. Đây là những công ty vận hành các dịch vụ đám mây hoặc CNTT quy mô siêu lớn. Điều này thường đề cập đến các nhà cung cấp đám mây như AWS, Microsoft Azure, Google Cloud và Oracle Cloud, hoặc các nền tảng khổng lồ như Meta, Apple, Alibaba và Tencent. Họ tạo ra nhu cầu về trung tâm dữ liệu bằng cách yêu cầu một lượng lớn GPU và máy chủ cho AI.
[Nhà vận hành trung tâm dữ liệu]
Tiếp theo là các nhà vận hành sở hữu và điều hành các trung tâm dữ liệu. Các nhà khai thác siêu quy mô đôi khi tự xây dựng, nhưng họ cũng sử dụng các nhà vận hành bên ngoài gọi là 'colocators'. Colocators cung cấp không gian, năng lượng, làm mát, kết nối và bảo mật. Những bên chủ chốt bao gồm Equinix, Digital Realty, tập đoàn hùng mạnh NTT Data, và nhiều bên khác. KDDI vận hành ở nước ngoài dưới thương hiệu Telehouse.
[Xây dựng]
Bên dưới đó là lớp Xây dựng/EPC. EPC là viết tắt của Engineering, Procurement, and Construction (Kỹ thuật, Mua sắm và Xây dựng). Đây là những công ty thiết kế, mua sắm thiết bị và xây dựng cơ sở vật chất, bao gồm các nhà thầu chính.
[Cơ sở hạ tầng năng lượng]
Vì các trung tâm dữ liệu AI sử dụng một lượng điện khổng lồ, nên việc phát điện, truyền tải, biến áp, phân phối và nguồn điện dự phòng là rất quan trọng. Trong lĩnh vực phát điện và phân tán điện, các công ty như GE Vernova, Siemens và Mitsubishi Heavy Industries đang hoạt động mạnh mẽ với tua-bin khí và máy phát điện. Biến áp, phân phối điện và UPS (Nguồn điện liên tục) cũng rất quan trọng để đảm bảo máy chủ không bị sập khi mất điện. Schneider Electric nổi tiếng trong lĩnh vực này.
[Làm mát]
Ngay cả máy tính gia đình cũng nóng lên khi xử lý các tác vụ nặng, nhưng các trung tâm dữ liệu AI làm điều này ở quy mô thiên văn. GPU AI tỏa ra nhiều nhiệt đến mức chúng sẽ hỏng hoặc mất hiệu suất nếu không được làm mát. Trong khi 'làm mát bằng không khí' (làm mát toàn bộ phòng) là tiêu chuẩn, các máy chủ AI tỏa ra quá nhiều nhiệt trên mỗi giá đỡ đến nỗi làm mát bằng không khí đang trở nên kém hiệu quả. Điều này dẫn đến 'làm mát bằng chất lỏng', sử dụng chất lỏng để mang nhiệt đi hiệu quả hơn. Một xu hướng gọi là 'Direct-to-Chip' liên quan đến việc đặt các tấm làm mát trực tiếp lên GPU hoặc CPU. Các công ty như Daikin, Mitsubishi Heavy Industries Thermal Systems và Mitsubishi Electric là những bên chủ chốt ở đây.
[Truyền thông và Mạng]
Trung tâm dữ liệu sẽ vô dụng nếu không được kết nối với thế giới bên ngoài. Điều này liên quan đến các nhà mạng viễn thông, thiết bị mạng, switch và router. Trong AI, việc kết nối các GPU với nhau ở tốc độ cao bên trong trung tâm dữ liệu cũng quan trọng như kết nối bên ngoài. Điều này đòi hỏi cả cáp điện và cáp quang. Đây là lúc 'Big Three' các công ty dây điện của Nhật Bản—Fujikura, Sumitomo Electric và Furukawa Electric—tham gia.
[Thiết bị CNTT và Chất bán dẫn]
AI đòi hỏi một bộ đầy đủ: máy chủ, GPU, CPU, bộ nhớ, SSD và thiết bị mạng. Khi AI chuyển sang giai đoạn sử dụng, tốc độ đọc và ghi dữ liệu trở nên quan trọng không kém sức mạnh tính toán thô.
Chúng Không Thể Mọc Lên Qua Đêm
Như bạn có thể thấy, các trung tâm dữ liệu AI không phải là thứ mà nguồn cung có thể đáp ứng nhu cầu ngay lập tức. Mặc dù các nhà khai thác siêu quy mô đang đầu tư mạnh mẽ, các cơ sở này cần có thời gian để xây dựng. Bất kỳ nút thắt cổ chai nào trong chuỗi cung ứng—từ nguyên vật liệu đến tình trạng thiếu hụt lao động có tay nghề trên toàn cầu—đều làm chậm quá trình vận hành.
Các báo cáo về sự chậm trễ xây dựng và ngày khởi công bị đẩy lùi là phổ biến. Các đơn hàng tồn đọng đang chất chồng trên nhiều trang web khác nhau. Trong khi 'chất bán dẫn' là chủ đề nóng hiện tại, nếu bạn nhìn nó qua lăng kính của các trung tâm dữ liệu AI, thì đây là một chủ đề đầu tư cơ sở hạ tầng kéo dài nhiều năm.
(Nhu cầu và giá cổ phiếu là những thứ khác nhau, vì vậy hãy đầu tư với rủi ro của riêng bạn!)
