Kioxia'nın Japonya'nın en değerli şirketi olması ve Fujikura'nın beklenmedik bir şekilde kâr tahminlerini yukarı yönlü revize etmesiyle birlikte, dikkatler ve sermaye 'yarı iletkenlere' yöneliyor. Yapay zeka patlaması ve yarı iletkenler gibi terimler her yerde olsa da, tüm bunların gerçek merkezinde yapay zeka veri merkezleri yer alıyor.
Daha önce, 'Her Şeyi Biliyormuş Gibi Yapmak İçin Yarı İletken Kursu' başlıklı bir yazı paylaşmıştım.
Fazla doğrulama yapmadan kitaplardan ve YouTube videolarından derlediğim bir özetti ve birinin kızabileceğinden endişelenmiştim, ancak oldukça olumlu karşılandı. Bu nedenle, ikinci bölüm olarak veri merkezleri hakkında yazmak istiyorum.
https://x.com/Kumakuring/status/1760605955845464527?s=20
O yarı iletken makalesinden bu yana çok geliştim. Neden mi? Çünkü artık her gün Nikkei Shimbun'u düzgün bir şekilde okuyorum.
Ayrıca, pazarlamadaki ana işimde projelerin çoğu yarı iletkenler ve veri merkezleriyle ilgili olduğu için uzmanlarla konuşma fırsatım daha fazla oluyor. Bu yazıyı, öğrendiklerimi aktarmanın bir yolu olarak kaleme aldım.
Ancak, bir uzman değilim ve metni kendim yazmak istediğim için bu sefer fazla yapay zeka kullanmadım. Yanlışlıklar varsa şimdiden affola.
İnsanlık Bekleme Yeteneğini Kaybetti
Otuzlu yaşlarımın ortalarındayım ve bir cep telefonunda e-posta okumak için 'merkeze sorgu göndermek' zorunda olduğumuz zamanları hatırlıyorum. Geriye dönüp bakınca, oldukça huzurlu bir dönemdi. Bir e-postanın gelip gelmediğini manuel olarak kontrol eder ve yanıt için biraz beklersiniz.
Ama artık işler farklı.
İster aramalar, ister videolar, ödemeler, sosyal medya veya yapay zeka yanıtları olsun, anında sonuç alamazsak sinirleniyoruz. Sadece sinirlenmekle kalmıyor, bazı insanlar kaygı bile duyuyor.
Kısacası, insanlar giderek daha fazla bekleyemez hale geliyor.
Buradaki anahtar kelime 'gecikme' (latency). Gecikme, iletişimdeki gecikmeyi ifade eder. Veri gönderme ile işlenmiş sonucu alma arasındaki süre ne kadar kısa olursa, kullanıcı o kadar 'hızlı' algılar.
Eskiden e-posta sorgularını beklerdik, şimdi ise bir yapay zeka yanıtı anında gelmezse rahatsız oluyoruz. İşte bu 'bekleyememe' durumunu perde arkasında destekleyen şey veri merkezleridir.
Veri merkezi, çok sayıda sunucuyu istikrarlı bir şekilde çalıştırmak için tasarlanmış özel bir tesistir.
- Sunucuları barındıracak binalar
- Büyük miktarlarda elektrik
- Isıyı dağıtmak için soğutma ekipmanları
- Yüksek hızlı iletişim hatları
- Deprem, yangın, elektrik kesintisi, siber saldırı ve fiziksel izinsiz girişe karşı koruma
Başka bir deyişle, bir veri merkezi sadece bir 'sunucu depolama odası' değildir; güç, soğutma, iletişim, inşaat, gayrimenkul ve operasyonları birleştiren devasa bir altyapıdır. Veri merkezlerinin Orta Doğu çatışmalarında hedef alındığı göz önüne alındığında, önemli bir ulusal güvenlik unsurudur.
Yapay Zeka Odaklı Veri Merkezi İnşa Çılgınlığı
Üretken yapay zeka, muazzam miktarda hesaplama kaynağı tüketir. Spesifik olarak, yapay zeka eğitimi ve çıkarımı çok sayıda GPU gerektirir ve bu GPU'ları çalıştırmak da büyük miktarda güç ve soğutma gerektirir.
Mevcut veri merkezleri bulut, e-ticaret, video akışı, finans ve telekomünikasyonu destekliyordu. Bunun üzerine bir de üretken yapay zeka talebi aniden ortaya çıkınca, 'daha fazla inşa edin', 'ama yeterli elektrik yok', 'soğutma zor', 'arazi sınırlı' ve 'güç şebekelerine ihtiyacımız var' çığlıkları yükselmeye başladı.
Bir keresinde veri merkezi alanında çalışan biriyle konuşmuştum ve 'Veri merkezi bir soğana benzer; katmanları soydukça geriye yarı iletkenler kalır' demişti.
Şöyle düşünün: bina → içindeki güç ekipmanları → soğutma ekipmanları → iletişim hatları → raflar → sunucular → ve bunların içinde GPU'lar, CPU'lar, bellek ve SSD'ler gibi yarı iletkenler. Bu yapı, ilgili çeşitli oyuncuları organize etmeyi kolaylaştırır.
Yarı iletken yazısında da belirttiğim gibi, yapay zekanın yarı iletkenleri canlandırmasının nedeni, üretken yapay zekanın sadece bir yazılım olmaması, aynı zamanda büyük bir donanım desteği gerektirmesidir. Ancak yarı iletkenler tek başına çalışmaz.
NVIDIA GPU'larınız olsa bile, elektrik olmadan çalışmazlar. Çalışsalar bile ısıyı dağıtamazlarsa dururlar. GPU'lar yüksek hızda bağlanmazsa performans göstermezler. Büyük miktarda veri okumaları gerekir. Ve her şeyden önce bir binaya ihtiyacınız vardır, ancak son zamanlarda inşaat karşıtı hareketler de var...
Güç, soğutma, fiber optik, elektrik kabloları, sunucular, bellek, SSD'ler, inşaat, gayrimenkul ve veri merkezi operasyonları. İşte bu yüzden yapay zeka patlaması NVIDIA ve yarı iletkenlerden tüm bu diğer sektörlere yayılıyor.
Yapay Zeka Sadece GPU'lardan İbaret Değil
İnsanlar yapay zeka denince akla ilk olarak NVIDIA GPU'larını getiriyor. GPU'lar hesaplama için kullanılan yarı iletkenlerdir. Bu nedenle, hikaye genellikle şöyle gider: yapay zeka büyürse, NVIDIA kâr eder.
Ancak, üretken yapay zeka gerçek kullanım aşamasına geldiğinde, hikaye GPU'larla bitmiyor.
- Kullanıcı bir soru sorar
- Veri okunur
- Hesaplama yapılır
- Ara bilgiler geçici olarak tutulur
- Veri tekrar okunur
- Cevap döndürülür
Bu süreç, dünya çapında büyük ölçekte eş zamanlı olarak gerçekleşir. Bir parantez açayım, geçenlerde yeniden doğsam 'ChatGPT'nin içindeki kişi' olmanın cehennem olacağı konusunda şaka yapmıştım. Ama konuyu dağıtmayayım.
Önemli olan, GPU'ların havadan hesaplama yapmamasıdır. Bir GPU her hesaplama yaptığında, büyük miktarda veri okur.
Burada önemli olan GPU'nun hesaplama hızıdır. GPU'lar inanılmaz hızlarda büyük hesaplamaları işleyebilir, ancak gerekli veri ulaşmazsa 'bekleme süresi' oluşur. GPU ne kadar hızlı olursa olsun, veri teslimatı yavaşsa GPU'nun performansı tam olarak kullanılamaz.
Başka bir deyişle, önemli olan sadece hesaplama gücü değil, verinin GPU'ya ne kadar hızlı iletilebildiğidir.
İşte bu noktada bellek devreye girer. Bellek, o anda kullanılan verilerin geçici olarak depolandığı yerdir. Hızlı bellek GPU'ya ne kadar yakınsa, veri o kadar hızlı iletilebilir. Bu nedenle HBM adı verilen yüksek hızlı bellek, yapay zeka GPU'larının yakınına yerleştirilir.
Öte yandan, tüm verileri yüksek hızlı bellekte tutamazsınız. Büyük miktarda veriyi depolamak için bir yere de ihtiyacınız vardır. İşte burada depolama (storage) devreye girer. Veri merkezlerinde genellikle SSD'ler kullanılır. Ve bu SSD'lerin içindeki bellek yarı iletkeni NAND flash'tır. Bu NAND'ı geliştiren lider şirket ise sevgili Kioxia'dır.
Üretken yapay zekanın yaygınlaşmasıyla birlikte, 'büyük veriyi hızlı bir şekilde okuma, geçici olarak tutma ve kaydetme' yeteneği, hesaplama gücü kadar önemli hale geliyor. Bu nedenle, NVIDIA'nın yanı sıra SK Hynix, Micron ve Samsung (bellek için) ile Kioxia, Samsung ve Micron (SSD ve NAND için) gibi şirketler yapay zeka bağlamında dikkat çekiyor.
Gecikme ve Uç (Edge) Veri Merkezleri
Veri merkezlerini düşünürken gecikme çok önemlidir. İnsanlar artık bekleyemediği için, veri merkezlerinin sadece 'toplu işlem yapması' değil, aynı zamanda 'hızlı yanıt vermesi' de önemlidir.
Yapay zeka eğitimi büyük veri merkezlerinde gerçekleşirken, kullanıcının sorusunu yanıtlama süreci olan yapay zeka çıkarımı (inference), kullanıcıya daha yakın bir yerde işlenmekten fayda sağlar. İşte bu noktada 'uç veri merkezleri' (edge data centers) devreye girer.
Sadece uzakta büyük veri merkezleri inşa ederseniz, işler yavaşlar. Amaç, daha küçük veri merkezlerini kullanıcılara veya cihazlara daha yakın yerleştirmektir. İçerideki sunucular ne kadar hızlı olursa olsun, verinin gidip gelmesi zaman alıyorsa, kullanıcı bunu yavaş olarak algılayacaktır.
Bu gecikme, finansal işlemler, oyun, video akışı, fabrikalar, otonom sürüş ve yapay zeka çıkarımı için bir sorundur. Bu nedenle, gelecekte sadece büyük veri merkezleri değil, aynı zamanda kullanıcıların yakınında bulunan uç veri merkezleri de hayati önem taşıyacak.
Bu, konuşmayı sadece 'büyük veri merkezlerini nereye inşa edeceğiz' sorusundan 'işlemeyi nereye yerleştireceğiz' sorusuna kaydırıyor. Telekom operatörleri, fiber optik, 5G, ağ ekipmanları, uç sunucular, iklimlendirme, uzaktan izleme ve bakım ağları önem kazanıyor. Uç genişledikçe, veri merkezi tedarik zinciri, birçok küçük, dağıtık altyapıyı yönetmeye doğru büyüyecek.
Veri Merkezi Tedarik Zinciri
Ana işimde ekibime şunu söylüyorum: 'B2B pazarlama yapmak için değer zincirini ve tedarik zincirini anlamalısınız.' Bu kadar büyük bir tedarik zinciriyle, birçok oyuncu işin içinde.
[Hiper Ölçekleyiciler (Hyperscalers)]
İlk olarak, hiper ölçekleyiciler talebi yaratır. Bunlar, ultra büyük ölçekli bulut veya BT hizmetleri işleten şirketlerdir. Bu genellikle AWS, Microsoft Azure, Google Cloud ve Oracle Cloud gibi bulut sağlayıcıları veya Meta, Apple, Alibaba ve Tencent gibi dev platform şirketlerini ifade eder. Yapay zeka için büyük miktarlarda GPU ve sunucu gerektirerek veri merkezi talebi yaratırlar.
[Veri Merkezi Operatörleri]
Sıradaki, veri merkezlerine sahip olan ve işleten operatörlerdir. Hiper ölçekleyiciler bazen kendi merkezlerini inşa eder, ancak aynı zamanda 'colocator' adı verilen harici operatörleri de kullanırlar. Colocator'lar alan, güç, soğutma, bağlantı ve güvenlik sağlar. Önemli oyuncular arasında Equinix, Digital Realty, güçlü NTT Data Group ve daha birçokları bulunur. KDDI, Telehouse markası altında yurtdışında faaliyet göstermektedir.
[İnşaat]
Bunun altında İnşaat/EPC katmanı yer alır. EPC, Mühendislik, Tedarik ve İnşaat (Engineering, Procurement, and Construction) anlamına gelir. Bunlar, tesisleri tasarlayan, ekipman tedarik eden ve inşa eden şirketlerdir; genel müteahhitler de dahildir.
[Güç Altyapısı]
Yapay zeka veri merkezleri çok büyük miktarda elektrik kullandığından, elektrik üretimi, iletimi, dönüşümü, dağıtımı ve yedek güç kritik öneme sahiptir. Elektrik üretimi ve dağıtık güçte, GE Vernova, Siemens ve Mitsubishi Heavy Industries gibi şirketler gaz türbinleri ve jeneratörlerle güçlü performans sergiliyor. Güç dönüşümü, dağıtımı ve KGK (Kesintisiz Güç Kaynağı - UPS) de kesintiler sırasında sunucuların çökmesini önlemek için hayati öneme sahiptir. Schneider Electric bu alanda ünlüdür.
[Soğutma]
Ev bilgisayarları bile ağır işlerde ısınır, ancak yapay zeka veri merkezleri bunu astronomik bir ölçekte yapar. Yapay zeka GPU'ları o kadar fazla ısı üretir ki, soğutulmazlarsa arızalanır veya performans kaybı yaşarlar. 'Hava soğutma' (tüm odayı soğutma) standartken, yapay zeka sunucuları raf başına o kadar fazla ısı üretir ki hava soğutma verimsiz hale geliyor. Bu durum, ısıyı daha verimli bir şekilde uzaklaştırmak için sıvı kullanan 'sıvı soğutmaya' yol açıyor. 'Doğrudan Çipe' (Direct-to-Chip) adı verilen bir trend, soğutma plakalarını doğrudan GPU'lara veya CPU'lara yerleştirmeyi içeriyor. Daikin, Mitsubishi Heavy Industries Thermal Systems ve Mitsubishi Electric bu alandaki kilit oyuncular.
[İletişim ve Ağ Oluşturma]
Veri merkezleri dış dünyaya bağlı değilse işe yaramaz. Bu, telekom operatörlerini, ağ ekipmanlarını, anahtarları ve yönlendiricileri içerir. Yapay zekada, GPU'ları veri merkezi içinde yüksek hızlarda birbirine bağlamak, harici bağlantı kadar önemlidir. Bu, hem güç kabloları hem de fiber optik gerektirir. İşte bu noktada Japonya'nın 'Üç Büyük' kablo şirketi olan Fujikura, Sumitomo Electric ve Furukawa Electric devreye giriyor.
[BT Ekipmanları ve Yarı İletkenler]
Yapay zeka, eksiksiz bir set gerektirir: sunucular, GPU'lar, CPU'lar, bellek, SSD'ler ve ağ ekipmanları. Yapay zeka kullanım aşamasına geçtikçe, veri okuma ve yazma hızı, ham hesaplama gücü kadar kritik hale geliyor.
Bir Anda Ortaya Çıkmıyorlar
Gördüğünüz gibi, yapay zeka veri merkezleri arzın talebi anında karşılayabileceği türden şeyler değil. Hiper ölçekleyiciler büyük yatırımlar yapsa da, bu tesislerin inşa edilmesi zaman alır. Malzemelerden küresel vasıflı işgücü kıtlığına kadar tedarik zincirindeki herhangi bir darboğaz, operasyonu geciktirir.
İnşaat gecikmeleri ve başlangıç tarihlerinin ertelenmesiyle ilgili haberler yaygındır. Birçok sitede birikmiş siparişler bulunmaktadır. 'Yarı iletkenler' şu anki sıcak konu olsa da, konuya yapay zeka veri merkezleri merceğinden bakarsanız, bu çok yıllı bir altyapı yatırımı temasıdır.
(Talep ve hisse senedi fiyatları farklı şeylerdir, bu nedenle lütfen kendi sorumluluğunuzda yatırım yapın!)
