AMD, yapay zeka modellerini doğrudan özel silikon üzerine işleyen Taalas'ı satın almak üzere 6 Ağustos 2026'da anlaşma yaptığını açıkladı. Toronto merkezli şirketin yaklaşımı, model ağırlıklarını çalışma sırasında harici bellekten getirmek yerine belirli bir model için tasarlanan yapay zeka çıkarım çipine gömmeye dayanıyor. Taalas'ın HC1 teknolojisi, Llama 3.1 8B modelinde 16.960 token/sn/kullanıcı seviyesine ulaşırken şirketin karşılaştırması, belirli koşullarda Nvidia B200'e karşı yaklaşık 48 katlık hız avantajı gösteriyor. Bu rakam tüm yapay zeka modelleri veya iş yükleri için geçerli bir sonuç değil; ölçüm, belirli bir model, giriş-çıkış uzunluğu ve donanım yapılandırmasına dayanıyor.
Taalas teknolojisi yapay zeka modelini nasıl çipe işliyor
Geleneksel GPU tabanlı AI inference sistemlerinde model ağırlıkları bellekte tutuluyor ve hesaplama sırasında işlem birimleri ile bellek arasında sürekli veri hareketi gerçekleşiyor. Büyük dil modellerinde bu hareket, yalnızca matematiksel işlemlerin kendisi değil, bellek bant genişliği ve veri taşımayı da performansın temel sınırlamalarından biri haline getiriyor. Taalas ise bellek ile hesaplama arasındaki ayrımı mümkün olduğunca ortadan kaldırarak modelin ağırlıklarını özel silikon yapısının içine yerleştiriyor.
Bu yaklaşım klasik anlamda programlanabilir bir GPU veya farklı modelleri çalıştırabilen genel amaçlı hızlandırıcıdan çok model-özelleştirilmiş ASIC mantığına yakın. Çip, çalışma sırasında her model ağırlığını harici HBM veya DRAM'den sürekli çekmek yerine ağırlıkların ve hesaplama akışının donanım seviyesinde uzmanlaştırılmasından yararlanıyor. Taalas bu mimariyi depolama ile hesaplamayı aynı çipte birleştirme olarak tanımlıyor; amaç HBM, karmaşık paketleme, yüksek hızlı I/O ve sıvı soğutma gibi sistem katmanlarının bir bölümüne duyulan ihtiyacı azaltmak.
Taalas'ın ilk ürünü HC1, TSMC'nin 6 nm üretim süreciyle hazırlanmış yaklaşık 815 mm² büyüklüğünde ve 53 milyar transistörlü bir ASIC. Çip, Llama 3.1 8B modelini doğrudan donanıma sabitliyor. Şirketin yayımladığı karşılaştırmada 1K giriş ve 1K çıkış uzunluğundaki koşulda 16.960 token/sn/kullanıcı sonucu veriliyor. Bu nedenle 48 katlık rakamı yalnızca "Nvidia'dan 48 kat hızlı çip" şeklinde okumak doğru değil; ölçüm, belirli model ve benchmark koşullarında elde edilen model-özel çıkarım performansını gösteriyor.
Yaklaşımın önemli taraflarından biri de model değişikliğinin geleneksel ASIC tasarımına göre hızlandırılmaya çalışılması. Taalas, daha önce görülmemiş bir modeli donanıma dönüştürme sürecini yaklaşık iki ay içinde tamamlayabildiğini belirtiyor. Bu süre, genel amaçlı bir GPU'ya yeni model yüklemek kadar kısa değil; ancak model ağırlıklarını fiziksel silikona gömen bir mimari için uzmanlaşmanın ekonomik açıdan uygulanabilir hale gelmesinde kritik önem taşıyor.
Bu tasarımın önemli bir sınırı ise model esnekliği. HC1 esas olarak Llama 3.1 8B için tasarlandığından farklı bir temel modeli aynı çipte çalıştırmak mümkün değil. Taalas, bağlam penceresinin yapılandırılabildiğini ve LoRA tabanlı ince ayar desteği bulunduğunu belirtiyor; ancak bunlar çipe gömülmüş temel modelin başka bir modele dönüştüğü anlamına gelmiyor. Yeni temel model için yeni bir silikon tasarımı gerekiyor.
AMD'nin Taalas hamlesi Nvidia rekabetini nasıl etkileyebilir
AMD'nin Taalas'ı satın alması, şirketin yapay zeka stratejisinde yalnızca GPU performansına odaklanmak yerine farklı çıkarım iş yüklerine uygun hızlandırıcılar oluşturma arayışını güçlendiriyor. AMD, Taalas teknolojisini kendi hızlandırıcı yol haritasına ve AMD Instinct GPU'larıyla birlikte kullanılabilecek sistem çözümlerine dahil etmeyi planlıyor. Bu nedenle Taalas'ın AMD açısından anlamı, Instinct GPU'ların yerine geçecek tek bir çipten çok, belirli ve yüksek hacimli çıkarım görevlerini uzmanlaştırabilecek ek bir donanım katmanı oluşturması.
Nvidia ile rekabet de bu nedenle yalnızca "hangi GPU daha hızlı?" sorusundan ibaret değil. Nvidia'nın güçlü tarafı farklı modelleri, eğitim süreçlerini ve değişken iş yüklerini aynı yazılım ve donanım ekosisteminde çalıştırabilmesi. Taalas'ın avantajı ise tam tersine esnekliği azaltıp belirli bir modelin çıkarımını mümkün olduğunca doğrudan donanıma uyarlamak. Nvidia'nın Groq'un çıkarım teknolojisini lisanslaması da sektörün bu ayrımı ciddiye aldığını gösteriyor; genel amaçlı GPU'ların yanında düşük gecikme ve yüksek verimlilik hedefleyen özel mimariler de giderek önem kazanıyor.
Taalas'ın performans rakamları bu rekabetin neden ilgi çektiğini gösteriyor. Ancak benchmark sonuçlarının önemli kısmı şirketin kendi ölçümlerine dayanıyor ve bağımsız testlerle aynı koşullarda doğrulanmış evrensel bir GPU karşılaştırması olarak değerlendirilmemeli. Ayrıca token/sn tek başına yeterli ölçüt değil; gerçek veri merkezi kullanımında gecikme, eşzamanlı kullanıcı sayısı, toplam throughput, watt başına token, model doğruluğu, context uzunluğu ve token başına maliyet birlikte değerlendirilmesi gerekiyor.
Çip üzerinde yapay zeka yaklaşımının avantajları ve sınırları
Model ağırlıklarının silikona gömülmesi özellikle aynı modelin çok yüksek hacimde ve düşük gecikmeyle çalıştırıldığı çıkarım servislerinde anlam kazanıyor. Veri taşımayı azaltmak, hesaplama birimlerinin model ağırlıklarına erişmek için bekleme ihtiyacını düşürebiliyor. Bunun sonucu yalnızca yüksek token üretim hızı değil, watt başına performans ve sorgu başına işletme maliyeti açısından da avantaj sağlayabilir. Bu özellikler gerçek zamanlı yapay zeka asistanları, yüksek hacimli kurumsal servisler ve gecikmenin doğrudan kullanıcı deneyimini etkilediği uygulamalar için özellikle önemli.
Buna karşılık Taalas'ın ilk nesil çözümü önemli bir kalite ve esneklik takası içeriyor. HC1'de kullanılan Llama 3.1 8B, 3-bit ve 6-bit parametreleri birleştiren agresif bir nicemlendirme yöntemiyle donanıma işlenmiş durumda. Taalas da bu yaklaşımın daha yüksek hassasiyetli GPU benchmark'larına kıyasla bazı kalite kayıpları oluşturduğunu kabul ediyor. Şirketin ikinci nesil silikonunda standart 4-bit floating-point formatlarına geçmesi, hız avantajını korurken bu sınırlamayı azaltma hedefini gösteriyor.
Uzun bağlamlı büyük dil modellerinde başka bir sorun da KV cache. Model ağırlıklarını çipe sabitlemek, çıkarım sırasında model parametrelerinin taşınmasına ilişkin darboğazı azaltabilir; ancak konuşmanın veya belgenin bağlamını tutan KV cache dinamik olarak büyür ve ayrı bellek kapasitesi ile bant genişliği gerektirir. Bu nedenle "modeli çipe gömmek bütün bellek sorunlarını ortadan kaldırıyor" sonucu çıkarılmamalı. Uzun context, yüksek eşzamanlılık ve büyük modeller söz konusu olduğunda sistemin geri kalan mimarisi hâlâ belirleyici.
AMD açısından asıl fırsat, bu uzmanlaşmayı mevcut Instinct GPU, EPYC işlemciler, ağ bağlantısı, sistem tasarımı ve ROCm yazılım ekosistemiyle birlikte kullanabilmek. Taalas'ın eski AMD ve Nvidia deneyimine sahip kurucu ekibi de bu entegrasyon açısından dikkat çekiyor; şirketin CEO'su Ljubisa Bajic daha önce AMD ve Nvidia'da mimar olarak çalışmış, Tenstorrent'in kurucuları arasında yer almıştı. Bununla birlikte AMD'nin Taalas teknolojisini hangi ticari ürünlerde, hangi modellerle ve hangi yazılım katmanıyla sunacağı henüz kesinleşmiş değil.
Sonuçta Taalas, Nvidia GPU'larının her alanda yerini alacak "48 kat hızlı" genel amaçlı bir işlemci değil. Daha doğru tanım, model-özel yapay zeka çıkarım donanımı. Genel amaçlı GPU'lar eğitim, yeni modellerin geliştirilmesi, çoklu model çalıştırma ve değişken iş yüklerinde avantajını korurken Taalas tipi ASIC'ler modelin olgunlaştığı, kullanım hacminin yüksek olduğu ve gecikme ile token maliyetinin kritik hale geldiği senaryolarda öne çıkabilir. AMD'nin satın almasının stratejik değeri de tam burada ortaya çıkıyor: yapay zeka altyapısında geleceğin yalnızca daha güçlü GPU'lardan değil, iş yüküne göre uzmanlaşan farklı işlem mimarilerinden oluşabileceğine işaret ediyor.
0 Yorumlar