Yapay zekanın bilgisayar ve telefonların merkezine yerleşmesiyle CPU ve GPU’nun yanına NPU ve TPU gibi yeni işlemci türleri de eklendi. Google’ın 2015’ten bu yana veri merkezlerinde kullandığı Tensor Processing Unit yani TPU, özellikle yapay zeka ve makine öğrenimi işlemleri için geliştirilen özel bir hızlandırıcı olarak çalışıyor.
GPU’lar ise grafik işleme görevlerinden çok daha geniş bir alana yayılarak oyunlardan video işlemeye, bilimsel hesaplamalardan büyük yapay zekâ modellerine kadar farklı iş yüklerini çalıştırabiliyor.
TPU ve GPU arasındaki temel fark mimaride ortaya çıkıyor
TPU, Google tarafından özellikle yapay zeka ve makine öğreniminde yoğun şekilde kullanılan matris hesaplamalarını gerçekleştirmek için geliştirildi.
Veri merkezlerindeki Cloud TPU sistemlerinin merkezinde Matrix Multiplication Unit yani MXU adı verilen birimler bulunuyor. Bu birimler, yapay sinir ağlarının temel işlemlerinden olan büyük ölçekli çarpma ve toplama hesaplarını çok yüksek paralellikte gerçekleştirebiliyor.
TPU mimarisinin önemli özelliklerinden biri systolic array adı verilen düzen. Çok sayıda hesaplama birimi fiziksel olarak birbirine bağlanıyor ve veriler bu yapı içerisinde bir birimden diğerine aktarılıyor.
Bir hesaplamadan çıkan sonuç doğrudan sonraki işlemde kullanılabildiği için matris çarpımı sırasında verinin sürekli olarak belleğe yazılıp yeniden okunması gerekmiyor. Bu yapı özellikle sinir ağlarındaki yoğun matris işlemlerinde yüksek işlem yoğunluğu ve enerji verimliliği sağlıyor.
GPU ise daha geniş kullanım alanı için tasarlanan oldukça paralel bir işlemci mimarisi kullanıyor. Modern GPU’larda binlerce iş parçacığı aynı anda çalışabiliyor.
NVIDIA tarafında işlem yükleri Streaming Multiprocessor adı verilen SM birimlerine dağıtılıyor ve çok sayıda çekirdek paralel biçimde çalıştırılıyor. GPU’lar ayrıca register, önbellek, paylaşımlı bellek ve yüksek bant genişlikli ana bellek gibi farklı bellek katmanlarını kullanıyor.
TPU’nun uzmanlaşmış yapısı burada önemli bir ayrım yaratıyor. TPU, matris hesaplamalarında veri hareketini azaltacak şekilde sabit ve yoğun bir işlem düzenine sahipken GPU farklı algoritmaları ve işlem türlerini çalıştırabilecek daha esnek bir mimari sunuyor.
GPU’ların bu esnekliği oyun grafiklerini işleme, video kodlama, fizik simülasyonları, bilimsel hesaplamalar, kripto para madenciliği ve yapay zekâ gibi birbirinden oldukça farklı görevlerde kullanılmalarını sağlıyor.
Yapay zekâ tarafında ise iki işlemci türü de büyük miktarda paralel hesaplama yapabiliyor. GPU’lar özellikle CUDA gibi yazılım platformlarının da etkisiyle makine öğrenimi ve büyük dil modeli eğitimlerinin temel donanımlarından biri haline geldi.
GPU mimarisi büyük veri kümeleri üzerinde binlerce veya on binlerce eş zamanlı iş parçacığının çalıştırılabildiği hesaplamalarda yüksek performans sunuyor.
TPU ise genel amaçlı GPU yaklaşımının yerine doğrudan yapay zeka hesaplamalarına ayrılmış donanım kaynakları kullanıyor. Cloud TPU sistemleri büyük dil modelleri, temel modeller, tavsiye sistemleri, derin öğrenme eğitimi ve yüksek hacimli çıkarım işlemlerinde kullanılabiliyor. TPU kümelerinde binlerce işlemci yüksek hızlı bağlantılarla bir araya getirilebiliyor.
Google’ın TPU ailesi yıllar içerisinde önemli ölçüde büyüdü. Örneğin TPU v5p sistemlerinde bir Pod içerisinde 8.960 TPU çipi bulunabiliyor. Daha yeni nesillerde ise ölçek daha da arttı.
Google’ın 2026’da duyurduğu TPU 8t, tek bir Superpod içerisinde 9.600 TPU’ya ve 2 petabayt paylaşımlı yüksek bant genişlikli belleğe kadar ölçeklenebiliyor. TPU 8i ise çıkarım işlemleri için 1.152 TPU’yu tek Pod içerisinde birbirine bağlıyor.
TPU adı artık yalnızca Google’ın veri merkezlerinde de kullanılmıyor. Pixel telefonlarda kullanılan Tensor işlemcilerinin içerisinde de TPU adı verilen bir yapay zekâ hızlandırıcısı bulunuyor.
Ancak telefondaki TPU ile veri merkezlerinde binlerce çipten oluşabilen Cloud TPU altyapısı aynı donanım sınıfında değil. Akıllı telefondaki TPU, diğer üreticilerin NPU olarak adlandırdığı birimlere benzer şekilde cihaz içindeki yapay zekâ hesaplamalarını düşük güç tüketimiyle çalıştırıyor.
Pixel 11 serisindeki Google Tensor G6 bunun güncel örneklerinden biri. Tensor G6, önceki nesle kıyasla yüzde 50 daha fazla TPU hesaplama gücüne sahip.
Gemini Nano ile birlikte cihaz üzerindeki yapay zeka işlemlerini 3,5 kata kadar daha hızlı gerçekleştirebiliyor ve aynı işlemlerde enerji tüketimi 3,5 kata kadar azaltılabiliyor. TPU aynı zamanda kamera özellikleri, canlı çeviri ve cihaz üzerinde çalışan yapay zekâ fonksiyonlarında kullanılıyor.
NPU’lar da benzer şekilde telefon, dizüstü bilgisayar ve diğer düşük güç tüketimli cihazlarda yapay zeka işlemlerini doğrudan cihaz üzerinde çalıştırmak için kullanılıyor.
Arka plan bulanıklaştırma, gerçek zamanlı çeviri, görüntü işleme ve küçük yapay zeka modellerinin çalıştırılması gibi görevler bu işlemcilere aktarılabiliyor. Cihaz üzerindeki TPU ve NPU tasarımlarında performans kadar enerji tüketimi ve pil ömrü de belirleyici oluyor.
GPU tarafında ise kullanım alanı çok daha geniş kalıyor. Güçlü bir ekran kartı hem modern oyunları çalıştırabiliyor hem video düzenleme ve 3D modelleme işlemlerini hızlandırabiliyor hem de yerel büyük dil modellerini çalıştırabiliyor.
Aynı GPU mimarileri veri merkezlerinde çok daha büyük kümeler halinde kullanılarak yapay zekâ modellerinin eğitim ve çıkarım işlemlerini de üstleniyor.
TPU’nun avantajı belirli yapay zeka iş yüklerine özel olarak tasarlanmış olması, GPU’nun avantajı ise programlanabilirlik ve çok daha geniş kullanım alanı.
Büyük ve düzenli matris hesaplamalarının sürekli tekrarlandığı yapay zekâ altyapılarında TPU mimarisi yüksek verimlilik sağlayabiliyor. Oyun, içerik üretimi, simülasyon, genel GPU hesaplama ve yerel yapay zekâ gibi farklı görevlerin aynı donanım üzerinde çalıştırılması gerektiğinde GPU kullanılabiliyor.
