Qualcomm, Snapdragon 8 Elite Gen 6 Pro için geliştirdiği yeni Hexagon NPU mimarisine ilişkin ilk teknik ayrıntıları paylaştı. Şirketin açıklamasına göre Snapdragon 8 Elite Gen 6 ailesindeki Pro model, cihaz üzerinde çalışan üretken yapay zeka uygulamalarına odaklanan daha gelişmiş bir sinirsel işlem birimiyle gelecek.
Yeni platformun, 22 Eylül’de düzenlenecek Snapdragon Summit etkinliğinde Snapdragon 8 Elite Gen 6 ile birlikte tanıtılması bekleniyor. Qualcomm’un etkinlik öncesinde öne çıkardığı NPU geliştirmeleri; yapay zeka aracıları, büyük dil modelleri ve çok modlu uygulamalarda daha düşük gecikme hedefliyor.
Snapdragon 8 Elite Gen 6 Pro’da yeni Hexagon NPU
Snapdragon 8 Elite Gen 6 Pro’nun yapay zeka kapasitesinin merkezinde yeni nesil Hexagon NPU bulunuyor. Qualcomm, bu birimin özellikle “agentic AI” olarak adlandırılan yapay zeka aracıları için tasarlandığını belirtiyor. Bu tür sistemler, yalnızca tek bir komuta yanıt vermek yerine çok aşamalı görevleri planlayıp yürütebilen yapay zeka iş yüklerini kapsıyor.
Yeni mimaride kullanılan Element Accelerator birimi, modern üretken yapay zeka görevleri için özel olarak yapılandırıldı. Bu yapı; skaler, vektör ve matris uzantılarıyla birlikte çalışarak büyük dil modellerinin mobil cihazlarda daha etkin biçimde işletilmesini amaçlıyor.
Qualcomm’un verdiği bilgilere göre bu yaklaşım, cihazların uzun bağlamlı içerikleri işlerken daha tutarlı bir performans sunmasına yardımcı olacak. Aynı zamanda birden fazla yapay zeka görevini eş zamanlı yürütmesi gereken uygulamalarda NPU’nun daha verimli kullanılmasının önü açılacak.
Bu geliştirmeler, telefonlardaki asistan deneyimlerinden metin özetleme araçlarına, görüntü ve ses verisini birlikte değerlendiren uygulamalardan sürekli çalışan yapay zeka özelliklerine kadar geniş bir kullanım alanını ilgilendiriyor. Ancak Qualcomm, bu yeteneklerin son kullanıcı tarafında hangi uygulama ve üretici özellikleriyle sunulacağını henüz açıklamadı.
Paylaşımlı bellek kapasitesi yüzde 50 artırıldı
Yeni Hexagon NPU mimarisindeki dikkat çekici değişikliklerden biri de bellek tarafında yapıldı. Qualcomm, paylaşımlı bellek kapasitesinin önceki yaklaşıma kıyasla yüzde 50 artırıldığını duyurdu. Bu alanın genişletilmesi, yapay zeka modellerinin sık kullandığı verilerin NPU’ya daha yakın tutulmasını sağlayacak.
Yapay zeka işlemlerinde performans yalnızca hesaplama gücüne bağlı değil. Model verilerinin bellek ile işlem birimi arasında taşınması sırasında oluşan gecikme, özellikle büyük modellerde deneyimi doğrudan etkileyebiliyor. Daha geniş paylaşımlı bellek, bu veri akışındaki dar boğazları azaltmayı hedefliyor.
Bu tasarımın pratik karşılığı, görevlerin daha düşük gecikmeyle tamamlanması olabilir. Örneğin cihaz üzerinde çalışan bir yapay zeka asistanının komutu yorumlaması, bağlamdaki bilgileri değerlendirmesi ve yanıt üretmesi sırasında bellek erişimi kritik önem taşıyor. Qualcomm, yeni sistemin daha yüksek tepkisellik sunarken enerji verimliliğini korumayı amaçladığını ifade ediyor.
Şirketin vurguladığı yerel işleme yaklaşımı, gizlilik açısından da öne çıkıyor. Karmaşık yapay zeka görevlerinin cihaz üzerinde yürütülmesi, bazı verilerin uzak sunuculara gönderilmeden işlenebilmesine imkân tanıyabilir. Bununla birlikte, bu avantajın kapsamı cihaz üreticilerinin yazılım tercihleri ve uygulamaların çalışma biçimine göre değişecek.
INT4 modellerinde daha hızlı ön dolum hedefi
Qualcomm’un paylaştığı performans verileri arasında INT4 modelleri için yüzde 50’ye varan daha hızlı ön dolum, yani prefill performansı yer alıyor. Ön dolum süreci, bir yapay zeka modelinin kullanıcı isteği veya mevcut bağlamdaki ilk verileri işleyerek yanıt üretmeye hazırlanmasını ifade ediyor.
Özellikle uzun metinlerin, önceki konuşmaların veya çok sayıda girdinin işlendiği senaryolarda bu aşama hissedilir gecikmelere neden olabiliyor. Snapdragon 8 Elite Gen 6 Pro’daki yeni NPU tasarımı, bu ilk işlem adımını hızlandırarak yapay zeka özelliklerinin daha kısa sürede yanıt vermesini hedefliyor.
INT4, yapay zeka modellerinde daha düşük hassasiyetli sayısal gösterim kullanan bir yöntem olarak öne çıkıyor. Bu yöntem, bazı modellerin daha az bellek ve işlem kaynağıyla çalıştırılmasına yardımcı olabiliyor. Qualcomm’un performans iddiası da bu tür optimize edilmiş model kullanımına dayanıyor.
Yeni NPU, Mixture-of-Experts (MoE) mimarisine sahip modellerle de uyumlu tasarlandı. MoE yaklaşımında modelin tüm parametreleri her görevde aynı anda çalıştırılmak yerine, ihtiyaca göre belirli uzman bölümler etkinleştiriliyor. Bu da uygun donanım ve yazılım desteğiyle kaynakların daha verimli kullanılmasını sağlayabiliyor.
Çok modlu yapay zeka kullanımına odaklanıyor
Qualcomm, Hexagon NPU’nun çok modlu yapay zeka modellerini de destekleyeceğini belirtiyor. Çok modlu modeller; metin, görüntü, ses ve diğer veri türlerini birlikte değerlendirebilen sistemleri kapsıyor. Mobil cihazlarda bu yaklaşım, kamera görüntüsünü analiz eden, sesli komutu anlayan ve metinsel yanıt üreten uygulamalar için önem taşıyor.
Şirketin hedefi, düşük gecikmeli aksiyon döngülerine ve her zaman aktif kalabilen yapay zeka uygulamalarına uygun bir altyapı oluşturmak. Bu tür kullanım senaryolarında NPU’nun yalnızca yüksek performans sunması değil, güç tüketimini dengede tutması da gerekiyor.
Snapdragon 8 Elite Gen 6 Pro’nun uzun süreli akıl yürütme gerektiren görevlerden çok modlu model desteğine kadar farklı yapay zeka iş yüklerinde yüksek performans vadettiği belirtiliyor. Platformun gerçek cihazlardaki performansı, üreticilerin soğutma, bellek yapılandırması ve yazılım optimizasyonlarına bağlı olarak netleşecek.
Qualcomm’un Snapdragon Summit kapsamında işlemcinin diğer teknik özelliklerini, desteklediği cihaz türlerini ve ticari kullanıma ilişkin ayrıntıları paylaşması bekleniyor. Şimdilik açıklanan NPU yenilikleri, mobil işlemcilerde yapay zeka için ayrılan donanım alanının daha da büyüdüğünü gösteriyor.
