Con Kioxia convirtiéndose en la empresa más valiosa de Japón por capitalización de mercado y Fujikura revisando repentinamente sus ganancias al alza, la atención y el capital están inundando los 'semiconductores'. Si bien términos como el auge de la IA y los semiconductores están por todas partes, el verdadero centro de todo es el centro de datos de IA.
Anteriormente, publiqué un 'Curso de Semiconductores para Fingir que lo Sabes Todo'.
Fue solo un resumen de libros y videos de YouTube que armé sin verificar mucho los datos, y me preocupaba que alguien se enojara, pero fue recibido de manera bastante positiva. Así que, para la segunda entrega, me gustaría escribir sobre centros de datos.
https://x.com/Kumakuring/status/1760605955845464527?s=20
He evolucionado significativamente desde ese artículo de semiconductores. ¿Por qué? Porque ahora leo el Nikkei Shimbun correctamente todos los días.
Además, en mi trabajo principal en marketing, la mayoría de los proyectos involucran semiconductores y centros de datos, por lo que tengo más oportunidades de hablar con expertos. He escrito esto como una forma de plasmar lo que he aprendido.
Sin embargo, no soy un experto, y como quería escribir el texto yo mismo esta vez, no he usado mucha IA. Por favor, disculpen cualquier inexactitud.
La Humanidad Ha Perdido la Capacidad de Esperar
Tengo treinta y tantos años, y recuerdo cuando teníamos que 'consultar el centro' solo para leer un correo electrónico en un teléfono móvil. Mirando atrás, era bastante idílico. Revisabas manualmente si había llegado un correo y esperabas un poco la respuesta.
Pero las cosas son diferentes ahora.
Ya sea en búsquedas, videos, pagos, redes sociales o respuestas de IA generativa, nos frustramos si no vuelven al instante. No es solo frustración; algunas personas incluso se ponen ansiosas.
En resumen, los humanos somos cada vez más incapaces de esperar.
La palabra clave aquí es 'latencia'. La latencia se refiere al retardo en la comunicación. Cuanto menor es el tiempo entre enviar datos y recibir el resultado procesado, más 'rápido' lo percibe el usuario.
Solíamos esperar las consultas por correo, pero ahora nos molestamos si una respuesta de IA no aparece en un instante. Los centros de datos son lo que respaldan esta 'incapacidad de esperar' entre bastidores.
Un centro de datos es una instalación dedicada diseñada para mantener una gran cantidad de servidores funcionando de manera estable.
- Edificios para albergar servidores
- Cantidades masivas de electricidad
- Equipos de refrigeración para disipar el calor
- Líneas de comunicación de alta velocidad
- Protección contra terremotos, incendios, cortes de energía, ciberataques e intrusión física
En otras palabras, un centro de datos no es solo una 'sala de almacenamiento de servidores'; es una infraestructura masiva que combina energía, refrigeración, comunicación, construcción, bienes raíces y operaciones. Dado que los centros de datos han sido atacados en conflictos de Oriente Medio, también tienen una gran importancia para la seguridad nacional.
La Fiebre de Construcción de Centros de Datos Impulsada por la IA
La IA generativa consume recursos computacionales masivos. Específicamente, el entrenamiento y la inferencia de IA requieren una gran cantidad de GPU, y ejecutar esas GPU requiere cantidades masivas de energía y refrigeración.
Los centros de datos existentes han respaldado la nube, el comercio electrónico, la transmisión de video, las finanzas y las telecomunicaciones. Además, la demanda de IA generativa ha llegado de repente, lo que ha provocado gritos de 'construyan más', 'pero no hay suficiente electricidad', 'la refrigeración es difícil', 'el terreno es limitado' y 'necesitamos redes eléctricas'.
Una vez hablé con alguien del campo de los centros de datos que dijo: 'Un centro de datos es como una cebolla; si pelas las capas, te quedas con los semiconductores'.
Imagina el edificio → el equipo eléctrico interior → el equipo de refrigeración → las líneas de comunicación → los racks → los servidores → y dentro de estos están los semiconductores como GPU, CPU, memoria y SSD. Esta estructura facilita la organización de los diversos actores involucrados.
Como mencioné en la publicación sobre semiconductores, la razón por la que la IA está impulsando los semiconductores es que la IA generativa no es solo software; requiere un soporte de hardware masivo. Sin embargo, los semiconductores no funcionan solos.
Incluso si tienes GPU de NVIDIA, no funcionarán sin electricidad. Si funcionan pero no pueden disipar el calor, se detienen. Si las GPU no están conectadas a alta velocidad, no rendirán. Necesitan leer cantidades masivas de datos. Y necesitas un edificio para empezar, aunque recientemente ha habido movimientos en contra de la construcción...
Energía, refrigeración, fibra óptica, cables eléctricos, servidores, memoria, SSD, construcción, bienes raíces y operaciones de centros de datos. Es por esto que el auge de la IA se extiende desde NVIDIA y los semiconductores a todos estos otros sectores.
La IA es Más que Solo GPU
Cuando la gente piensa en IA, lo primero que le viene a la mente son las GPU de NVIDIA. Las GPU son los semiconductores para el cálculo. Por lo tanto, la historia suele ser: si la IA crece, NVIDIA se beneficia.
Sin embargo, una vez que la IA generativa llega a la etapa de uso real, la historia no termina con las GPU.
- El usuario hace una pregunta
- Se leen los datos
- Ocurre el cálculo
- La información intermedia se retiene temporalmente
- Se leen los datos de nuevo
- Se devuelve la respuesta
Este proceso ocurre simultáneamente a escala masiva en todo el mundo. Como anécdota, recientemente bromeé diciendo que ser la 'persona dentro de ChatGPT' si reencarnara sería un infierno. Pero me estoy desviando.
Lo importante es que las GPU no calculan de la nada. Cada vez que una GPU calcula, lee una cantidad masiva de datos.
Lo que importa aquí es la velocidad de cálculo de la GPU. Las GPU pueden procesar cálculos masivos a velocidades increíbles, pero si los datos necesarios no llegan, se produce un 'tiempo de espera'. No importa lo rápida que sea la GPU, si la entrega de datos es lenta, el rendimiento de la GPU no se puede utilizar por completo.
En otras palabras, no solo importa la potencia para calcular, sino la rapidez con la que se pueden entregar los datos a la GPU.
Aquí es donde entra la memoria. La memoria es el lugar donde se almacenan temporalmente los datos que se están utilizando actualmente. Cuanto más cerca esté la memoria rápida de la GPU, más rápido se podrán entregar los datos. Es por esto que la memoria de alta velocidad llamada HBM se coloca cerca de las GPU de IA.
Por otro lado, no se pueden mantener todos los datos en la memoria de alta velocidad. También necesitas un lugar para almacenar cantidades masivas de datos. Aquí es donde entra el almacenamiento. En los centros de datos, se usan comúnmente SSD. Y el semiconductor de memoria dentro de esos SSD es NAND flash. La empresa líder en el desarrollo de esa NAND es nuestra querida Kioxia.
Con la propagación de la IA generativa, la capacidad de 'leer, retener temporalmente y guardar datos masivos rápidamente' se está volviendo tan importante como la potencia de cálculo. Es por esto que, además de NVIDIA, empresas como SK Hynix, Micron y Samsung (para memoria), y Kioxia, Samsung y Micron (para SSD y NAND) están ganando atención en el contexto de la IA.
Latencia y Centros de Datos Edge
La latencia es crucial al pensar en centros de datos. Debido a que los humanos ya no pueden esperar, es importante que los centros de datos no solo 'procesen en lote' sino que también 'respondan rápidamente'.
Mientras que el entrenamiento de IA ocurre en centros de datos masivos, la inferencia de IA (el proceso de responder a la pregunta de un usuario) se beneficia de procesarse más cerca del usuario. Aquí es donde entran los 'centros de datos edge'.
Si solo construyes centros de datos masivos y lejanos, las cosas se vuelven lentas. La idea es colocar centros de datos más pequeños cerca de los usuarios o dispositivos. No importa lo rápidos que sean los servidores internos, si los datos tardan en viajar de un lado a otro, el usuario lo percibirá como lento.
Este retraso es un problema para las transacciones financieras, los juegos, la transmisión de video, las fábricas, la conducción autónoma y la inferencia de IA. Por lo tanto, en el futuro, no solo los centros de datos masivos, sino también los centros de datos edge ubicados cerca de los usuarios serán vitales.
Esto cambia la conversación de simplemente 'dónde construir grandes centros de datos' a 'dónde colocar el procesamiento'. Las operadoras de telecomunicaciones, la fibra óptica, el 5G, los equipos de red, los servidores edge, el aire acondicionado, la monitorización remota y las redes de mantenimiento se vuelven importantes. A medida que el edge se expande, la cadena de suministro de centros de datos crecerá hacia la gestión de muchas infraestructuras pequeñas y distribuidas.
La Cadena de Suministro de Centros de Datos
En mi trabajo principal, le digo a mi equipo: 'Para hacer marketing B2B, debes entender la cadena de valor y la cadena de suministro'. Con una cadena de suministro tan masiva, muchos actores están involucrados.
[Hiperescaladores]
Primero, los hiperescaladores crean la demanda. Son empresas que operan servicios de nube o TI a escala ultra grande. Esto generalmente se refiere a proveedores de nube como AWS, Microsoft Azure, Google Cloud y Oracle Cloud, o plataformas gigantes como Meta, Apple, Alibaba y Tencent. Crean demanda de centros de datos al requerir cantidades masivas de GPU y servidores para IA.
[Operadores de Centros de Datos]
Luego están los operadores que poseen y gestionan los centros de datos. Los hiperescaladores a veces construyen los suyos propios, pero también utilizan operadores externos llamados 'colocadores'. Los colocadores proporcionan espacio, energía, refrigeración, conectividad y seguridad. Los actores clave incluyen Equinix, Digital Realty, el poderoso NTT Data Group y muchos otros. KDDI opera en el extranjero bajo la marca Telehouse.
[Construcción]
Por debajo está la capa de Construcción/EPC. EPC significa Ingeniería, Aprovisionamiento y Construcción (Engineering, Procurement, and Construction). Son las empresas que diseñan, adquieren equipos y construyen las instalaciones, incluyendo contratistas generales.
[Infraestructura Eléctrica]
Dado que los centros de datos de IA utilizan cantidades masivas de electricidad, la generación, transmisión, transformación, distribución y energía de respaldo son críticas. En generación y distribución de energía, empresas como GE Vernova, Siemens y Mitsubishi Heavy Industries están viendo un fuerte rendimiento con turbinas de gas y generadores. La transformación, distribución y UPS (Sistema de Alimentación Ininterrumpida) también son vitales para garantizar que los servidores no se bloqueen durante los cortes. Schneider Electric es famosa en este espacio.
[Refrigeración]
Incluso los PC domésticos se calientan durante tareas pesadas, pero los centros de datos de IA lo hacen a una escala astronómica. Las GPU de IA generan tanto calor que fallarán o perderán rendimiento si no se enfrían. Si bien la 'refrigeración por aire' (enfriar toda la sala) era estándar, los servidores de IA generan tanto calor por rack que la refrigeración por aire se está volviendo ineficiente. Esto está llevando a la 'refrigeración líquida', que utiliza líquido para eliminar el calor de manera más eficiente. Una tendencia llamada 'Directo al Chip' implica colocar placas de enfriamiento directamente sobre las GPU o CPU. Empresas como Daikin, Mitsubishi Heavy Industries Thermal Systems y Mitsubishi Electric son actores clave aquí.
[Comunicación y Redes]
Los centros de datos son inútiles si no están conectados al mundo exterior. Esto involucra operadoras de telecomunicaciones, equipos de red, switches y enrutadores. En IA, conectar las GPU entre sí a altas velocidades dentro del centro de datos es tan importante como la conectividad externa. Esto requiere tanto cables de alimentación como fibra óptica. Aquí es donde entran las 'Tres Grandes' empresas de cables de Japón: Fujikura, Sumitomo Electric y Furukawa Electric.
[Equipos de TI y Semiconductores]
La IA requiere un conjunto completo: servidores, GPU, CPU, memoria, SSD y equipos de red. A medida que la IA avanza hacia la fase de uso, la velocidad de lectura y escritura de datos se vuelve tan crítica como la potencia de cálculo bruta.
No Aparecen de la Noche a la Mañana
Como puedes ver, los centros de datos de IA no son algo cuya oferta pueda satisfacer la demanda instantáneamente. A pesar de que los hiperescaladores están invirtiendo fuertemente, estas instalaciones tardan tiempo en construirse. Cualquier cuello de botella en la cadena de suministro, desde los materiales hasta la escasez global de mano de obra calificada, retrasa la operación.
Los informes de retrasos en la construcción y fechas de inicio pospuestas son comunes. Los pedidos pendientes se están acumulando en varios sitios. Si bien los 'semiconductores' son el tema candente actual, si lo miras a través del lente de los centros de datos de IA, es un tema de inversión en infraestructura a varios años.
(¡La demanda y los precios de las acciones son cosas diferentes, así que invierta bajo su propio riesgo!)
