Com a Kioxia se tornando a empresa mais valiosa do Japão em capitalização de mercado e a Fujikura revisando seus lucros para cima de repente, atenção e capital estão inundando os 'semicondutores'. Embora termos como boom da IA e semicondutores estejam por toda parte, o verdadeiro centro de tudo isso é o data center de IA.
Anteriormente, publiquei um 'Curso de Semicondutores para Quem Quer Fingir que Entende'.
Foi apenas um resumo de livros e vídeos do YouTube que juntei sem muita verificação, e eu estava preocupado que alguém pudesse ficar irritado, mas foi recebido de forma bastante positiva. Então, para a segunda parte, gostaria de escrever sobre data centers.
https://x.com/Kumakuring/status/1760605955845464527?s=20
Evoluí significativamente desde aquele artigo sobre semicondutores. Por quê? Porque agora leio o Nikkei Shimbun todos os dias.
Além disso, no meu trabalho principal em marketing, a maioria dos projetos envolve semicondutores e data centers, então tenho mais oportunidades de conversar com especialistas. Escrevi isto como uma forma de externalizar o que aprendi.
No entanto, não sou um especialista e, como queria escrever o texto sozinho desta vez, não usei muita IA. Peço desculpas por eventuais imprecisões.
A Humanidade Perdeu a Capacidade de Esperar
Estou na casa dos trinta e poucos anos e me lembro de quando tínhamos que 'consultar o sistema' só para ler um e-mail no celular. Olhando para trás, era bem idílico. Você verificava manualmente se um e-mail havia chegado e esperava um pouco pela resposta.
Mas as coisas são diferentes agora.
Seja em pesquisas, vídeos, pagamentos, redes sociais ou respostas de IA generativa, ficamos frustrados se eles não retornarem instantaneamente. Não é apenas frustração; algumas pessoas até ficam ansiosas.
Resumindo, os humanos estão cada vez mais incapazes de esperar.
A palavra-chave aqui é 'latência'. Latência se refere ao atraso na comunicação. Quanto menor o tempo entre o envio de dados e o recebimento do resultado processado, mais 'rápido' o usuário o percebe.
Nós costumávamos esperar por consultas de e-mail, mas agora ficamos irritados se uma resposta da IA não aparecer num piscar de olhos. Os data centers são o que sustentam essa 'incapacidade de esperar' nos bastidores.
Um data center é uma instalação dedicada projetada para manter um número massivo de servidores funcionando de forma estável.
- Edifícios para abrigar servidores
- Quantidades massivas de eletricidade
- Equipamentos de refrigeração para dissipar calor
- Linhas de comunicação de alta velocidade
- Proteção contra terremotos, incêndios, quedas de energia, ataques cibernéticos e invasão física
Em outras palavras, um data center não é apenas uma 'sala de armazenamento de servidores'; é uma infraestrutura massiva que combina energia, refrigeração, comunicação, construção, imobiliário e operações. Dado que data centers têm sido alvos em conflitos no Oriente Médio, eles também possuem importância significativa para a segurança nacional.
A Corrida de Construção de Data Centers Impulsionada pela IA
A IA generativa consome recursos computacionais massivos. Especificamente, o treinamento e a inferência de IA exigem um enorme número de GPUs, e a operação dessas GPUs requer quantidades massivas de energia e refrigeração.
Os data centers existentes têm suportado a nuvem, e-commerce, streaming de vídeo, finanças e telecomunicações. Além disso, a demanda por IA generativa chegou de repente, levando a gritos de 'construam mais', 'mas não há eletricidade suficiente', 'a refrigeração é difícil', 'o terreno é limitado' e 'precisamos de redes elétricas'.
Certa vez, conversei com alguém da área de data centers que disse: 'Um data center é como uma cebola; se você descascar as camadas, encontra semicondutores.'
Imagine o edifício → equipamentos de energia internos → equipamentos de refrigeração → linhas de comunicação → racks → servidores → e dentro deles estão os semicondutores, como GPUs, CPUs, memória e SSDs. Essa estrutura facilita a organização dos vários players envolvidos.
Como mencionei no post sobre semicondutores, a razão pela qual a IA está impulsionando os semicondutores é que a IA generativa não é apenas software; ela requer suporte massivo de hardware. No entanto, os semicondutores não funcionam sozinhos.
Mesmo que você tenha GPUs NVIDIA, elas não funcionarão sem eletricidade. Se funcionarem, mas não conseguirem dissipar calor, param. Se as GPUs não estiverem conectadas em alta velocidade, não terão desempenho. Elas precisam ler quantidades massivas de dados. E você precisa de um edifício para começar, embora recentemente tenham ocorrido movimentos contra a construção...
Energia, refrigeração, fibra óptica, fios elétricos, servidores, memória, SSDs, construção, imobiliário e operações de data centers. É por isso que o boom da IA se espalha da NVIDIA e dos semicondutores para todos esses outros setores.
IA é Mais do que Apenas GPUs
Quando as pessoas pensam em IA, as GPUs NVIDIA são a primeira coisa que vem à mente. GPUs são os semicondutores para cálculos. Portanto, a história geralmente é: se a IA crescer, a NVIDIA lucra.
No entanto, uma vez que a IA generativa atinge o estágio de uso real, a história não termina com as GPUs.
- O usuário faz uma pergunta
- Os dados são lidos
- O cálculo acontece
- As informações intermediárias são mantidas temporariamente
- Os dados são lidos novamente
- A resposta é retornada
Esse processo acontece simultaneamente em escala massiva em todo o mundo. Como um aparte, recentemente brinquei que ser a 'pessoa dentro do ChatGPT' se eu reencarnasse seria um inferno. Mas estou divagando.
O importante é que as GPUs não calculam do nada. Toda vez que uma GPU calcula, ela lê uma quantidade massiva de dados.
O que importa aqui é a velocidade de cálculo da GPU. As GPUs podem processar cálculos massivos em velocidades incríveis, mas se os dados necessários não chegarem, ocorre um 'tempo de espera'. Não importa o quão rápida seja a GPU, se a entrega de dados for lenta, o desempenho da GPU não pode ser totalmente utilizado.
Em outras palavras, não é apenas o poder de calcular que importa, mas a rapidez com que os dados podem ser entregues à GPU.
É aqui que entra a memória. A memória é o local onde os dados atualmente em uso são armazenados temporariamente. Quanto mais próxima a memória rápida estiver da GPU, mais rápido os dados podem ser entregues. É por isso que a memória de alta velocidade chamada HBM é colocada perto das GPUs de IA.
Por outro lado, você não pode manter todos os dados na memória de alta velocidade. Você também precisa de um lugar para armazenar quantidades massivas de dados. É aqui que entra o armazenamento. Em data centers, SSDs são comumente usados. E o semicondutor de memória dentro desses SSDs é o NAND flash. A empresa líder no desenvolvimento desse NAND é a nossa amada Kioxia.
Com a disseminação da IA generativa, a capacidade de 'ler, reter temporariamente e salvar dados massivos rapidamente' está se tornando tão importante quanto o poder de cálculo. É por isso que, além da NVIDIA, empresas como SK Hynix, Micron e Samsung (para memória), e Kioxia, Samsung e Micron (para SSDs e NAND) estão ganhando atenção no contexto da IA.
Latência e Data Centers de Borda
A latência é crucial ao pensar em data centers. Como os humanos não podem mais esperar, é importante que os data centers não apenas 'processem em lote', mas também 'respondam rapidamente'.
Embora o treinamento de IA aconteça em data centers massivos, a inferência de IA — o processo de responder à pergunta de um usuário — se beneficia por ser processada mais perto do usuário. É aqui que entram os 'data centers de borda'.
Se você construir apenas data centers massivos e distantes, as coisas ficam lentas. A ideia é colocar data centers menores mais perto dos usuários ou dispositivos. Não importa o quão rápidos sejam os servidores internos, se levar tempo para os dados viajarem de ida e volta, o usuário perceberá como lento.
Esse atraso é um problema para transações financeiras, jogos, streaming de vídeo, fábricas, direção autônoma e inferência de IA. Portanto, no futuro, não apenas data centers massivos, mas também data centers de borda localizados perto dos usuários serão vitais.
Isso muda a conversa de apenas 'onde construir grandes data centers' para 'onde colocar o processamento'. Operadoras de telecomunicações, fibra óptica, 5G, equipamentos de rede, servidores de borda, ar condicionado, monitoramento remoto e redes de manutenção se tornam importantes. À medida que a borda se expande, a cadeia de suprimentos de data centers crescerá em direção ao gerenciamento de muitas infraestruturas pequenas e distribuídas.
A Cadeia de Suprimentos de Data Centers
No meu trabalho principal, digo à minha equipe: 'Para fazer marketing B2B, você deve entender a cadeia de valor e a cadeia de suprimentos.' Com uma cadeia de suprimentos tão massiva, muitos players estão envolvidos.
[Hyperscalers]
Primeiro, os hyperscalers criam a demanda. São empresas que operam serviços de nuvem ou TI em escala ultra-grande. Isso geralmente se refere a provedores de nuvem como AWS, Microsoft Azure, Google Cloud e Oracle Cloud, ou grandes plataformas como Meta, Apple, Alibaba e Tencent. Eles criam demanda por data centers ao exigir quantidades massivas de GPUs e servidores para IA.
[Operadores de Data Centers]
Em seguida estão os operadores que possuem e administram os data centers. Os hyperscalers às vezes constroem os seus próprios, mas também usam operadores externos chamados 'colocators'. Os colocators fornecem espaço, energia, refrigeração, conectividade e segurança. Os principais players incluem Equinix, Digital Realty, o poderoso NTT Data Group e muitos outros. A KDDI opera no exterior sob a marca Telehouse.
[Construção]
Abaixo disso está a camada de Construção/EPC. EPC significa Engenharia, Aquisição e Construção. São as empresas que projetam, adquirem equipamentos e constroem as instalações, incluindo empreiteiras gerais.
[Infraestrutura de Energia]
Como os data centers de IA usam quantidades massivas de eletricidade, geração, transmissão, transformação, distribuição e energia de backup são críticas. Na geração de energia e energia distribuída, empresas como GE Vernova, Siemens e Mitsubishi Heavy Industries estão apresentando forte desempenho com turbinas a gás e geradores. A transformação, distribuição e UPS (Fonte de Alimentação Ininterrupta) também são vitais para garantir que os servidores não parem durante quedas de energia. A Schneider Electric é famosa nesse espaço.
[Refrigeração]
Mesmo os PCs domésticos esquentam durante tarefas pesadas, mas os data centers de IA fazem isso em uma escala astronômica. As GPUs de IA geram tanto calor que falharão ou perderão desempenho se não forem resfriadas. Embora a 'refrigeração a ar' (resfriar a sala inteira) fosse padrão, os servidores de IA geram tanto calor por rack que a refrigeração a ar está se tornando ineficiente. Isso está levando à 'refrigeração líquida', que usa líquido para remover o calor de forma mais eficiente. Uma tendência chamada 'Direct-to-Chip' envolve colocar placas de resfriamento diretamente nas GPUs ou CPUs. Empresas como Daikin, Mitsubishi Heavy Industries Thermal Systems e Mitsubishi Electric são players-chave aqui.
[Comunicação e Redes]
Data centers são inúteis se não estiverem conectados ao mundo exterior. Isso envolve operadoras de telecomunicações, equipamentos de rede, switches e roteadores. Na IA, conectar GPUs entre si em altas velocidades dentro do data center é tão importante quanto a conectividade externa. Isso requer cabos de energia e fibra óptica. É aqui que entram as 'Três Grandes' empresas de fios do Japão: Fujikura, Sumitomo Electric e Furukawa Electric.
[Equipamentos de TI e Semicondutores]
A IA requer um conjunto completo: servidores, GPUs, CPUs, memória, SSDs e equipamentos de rede. À medida que a IA avança para a fase de uso, a velocidade de leitura e gravação de dados se torna tão crítica quanto o poder bruto de cálculo.
Eles Não Surgem da Noite para o Dia
Como você pode ver, os data centers de IA não são algo cuja oferta possa atender à demanda instantaneamente. Embora os hyperscalers estejam investindo pesadamente, essas instalações levam tempo para serem construídas. Qualquer gargalo na cadeia de suprimentos — desde materiais até a escassez global de mão de obra qualificada — atrasa a operação.
Relatos de atrasos na construção e datas de início adiadas são comuns. Pedidos em atraso estão se acumulando em vários locais. Embora 'semicondutores' seja o tópico quente atual, se você olhar através das lentes dos data centers de IA, é um tema de investimento em infraestrutura de vários anos.
(Demanda e preços de ações são coisas diferentes, então invista por sua conta e risco!)
