Yorumları: 4,658
Konuları: 101
Kayıt Tarihi: May 2015
Teşekkür Puanı:
0
DLSS ekran kartında çalışan bir yerel yapay zeka modeli, nasıl ki llama.cpp veya benzer yöntemle yapay zeka modelleri kullanılabiliyor DLSS de kabaca aynı mantıkla çalışıyor. Tabii gecikme son derece önemli olduğu için bu modeller çok düşük boyutlarda, deterministik bir yapıda. Bu kadar hızlı çıkarım yapabilmesi için de işte tensor çekirdekleri gerekiyor, tensor çekirdekleri matris çarpım işlemlerini olağanüstü şekilde hızlandırıyor, CUDA çekirdekleri ile bu hızda bunları yapabilmek mümkün değil. Ayrıca Blackwell mimarisinde NVFP4(sıkıştırma) desteği var, önceki serilerde bu destek maalesef yok. NVFP4 desteği ciddi hızlanma sağlıyor. Yani Nvidia’nın eski kartlara bazı şeyleri açmamasının arkasında bu tip teknik konular da vardır.
Yorumları: 4,658
Konuları: 101
Kayıt Tarihi: May 2015
Teşekkür Puanı:
0
Buradan yan olarak şöyle bir konuya da değinelim, AMD tarafında CDNA ve RDNA şeklinde ayrı mimari yapılar var, matris çarpımı işlemleri diğer GPU birimleri ile aynı yapıyı kullanıyor, bu nedenle Nvidia ile aynı hızda DLSS tipi yerel yapay zeka modeli çalışması çok imkanlı değil, ayrıca yapay zeka modelleri için en önemli konu VRAM bant genişliği, bu noktada da Nvidia GDDR7 kullanıyor. Nvidia modelleri yapay zeka çalıştırmak üzere tasarlanmış desek uzak bir çıkarım olmaz herhalde.
Yorumları: 2,004
Konuları: 1
Kayıt Tarihi: Mar 2016
Teşekkür Puanı:
2
Şimdi tabi ki genel anlamda sizin anlattığınız detaya girecek teknik bilgim yok. Ama nVidia tarafında 50 serisinde bulunan MFG için gerekli frame pacing hardware yapısı 40 serisinde olmadığı söyleniyor ama bu yukarıda link verdiğim open source implemantasyonda MFG hardware bazında reverse engineering edilmiş (muhtemelen yine ai destekli) ve 50 serisindeki frame pacing HW değil SW implemente edilmiş. Ancak latency için 40 serisi için 6x FG modunda 1-2 ms de kaldığı belirtiliyor, bunu da ben hissedemedim ve herkes de çok memnun. Ha bu arada bu projeyi 30 serisini de kapsayacak şekilde genişleteceklermiş ve 30 serisi için performans uyarısı ekleneceği vs yazıyordu. 30 serisinde daha ciddi eksiklikler var anlaşılan.
Yorumları: 5,561
Konuları: 66
Kayıt Tarihi: Oct 2014
Teşekkür Puanı:
6
nvidia bu işe resmi olarak el atarsa sonuçta ortada bir donanım eksiği varsa bile çok daha optimize bir iş çıkaracakları kesin. dış kapının mandalı bir adam bile tek dll dosyası ile neredeyse hiç fark olmayacak noktaya getirebiliyorsa nvidia kralını yapar. ben donanım eksikliğinden çok pazarlama olduğunu düşünüyorum hala. ama tabi 3x serisi için durum farklı olabilir.
AMD Ryzen 7 5800X | 32gb G.Skill DDR4-3600 CL16 | Asus TUF B550-Plus | Asus TUF RTX 4070 TI OC | Sound Blaster Zx | Logitech Z623 & G213 & G303 & G933 |LG 32GK850G Monitör | CM HAF-X Kasa | Evga Supernova 850G2 PSU
Yorumları: 4,658
Konuları: 101
Kayıt Tarihi: May 2015
Teşekkür Puanı:
0
Şuna da değinmeden geçmeyeyim, DLSS 5 malum NBA 2K27 ile geldi ancak halen sürücüler ile gelmiş değil, henüz resmi olarak tam çıktı denilemez herhalde. DLSS 5 modeli diğer DLSS modelleri gibi performans artışı sağlama değil de görsel kaliteyi arttırmak üzerine, diğer modellere göre boyutu daha büyük ve ciddi güce ihtiyaç duyuyor. GPU üzerinde çalışan her model GPU yerel kaynaklarından tüketiyor, son dönemde baya bir resmi olmayan DLSS 5 modları ile beraber modeli ana ekran kartında değil de ikinci bir GPU’da çalıştıran yazılımlar da çıktı, iş ilginç bir noktaya gidiyor.
Yorumları: 4,658
Konuları: 101
Kayıt Tarihi: May 2015
Teşekkür Puanı:
0
Ters çalışma bile oluyor bu arada yani DLSS 5 mesela RTX 5080’de çalışıyor diğer parçalar RTX 5060’da çalışıyor gibi.
Yorumları: 4,658
Konuları: 101
Kayıt Tarihi: May 2015
Teşekkür Puanı:
0
Tensor çekirdekleri olmadan zaten hızlı bir şekilde yapay zeka modeli çalıştırmak mümkün değil, zaten iş orada bitiyor, AMD için de aynı şekilde. AMD tarafında fark CDNA ve RDNA diye iki ayrı mimari olması, RDNA yani oyun için olan mimari yapıda da elbette Nvidia gibi matris çarpımı hızlandırma yeteneği var ama bunların kendine ait ayrı vir yapısı yok, bu işlemler de normal Cuda veya AMD tarafındaki grafik çekirdeklerine bırakılınca yavaşlama oluyor. Hadi tekst bazlı yapay zeka modellerinde bir derece, millet gidip büyük modeller çalıştırmak için Mac Studio falan bile alıyor ama oyun içinde gecikme son derece önemli. Bu nedenle AMD’nin 9070XT ile gelebileceği yerin teknik bir sınırı var, ama sanırım AMD de artık CDNA ve RDNA gibi ayrı yapıdan birleşik bir yapıya geçecek, araştırmak lazım daha, yanlışlık olmasın. Yani işin yavaş yavaş tensor çekirdeklerine yığılması değil konu, bu işleri yapan ana yapı zaten tensor çekirdekleri.
Ha ne olabilir, ileriki nesillerde daha çok tensor çekirdeği kullanılır, hızlanma sağlanır vb.
Matris çarpımı hızlandırma konusu sadece DLSS falan değil tüm yapay zeka modellerinin çalışmasında ana konulardan birisi.
Ayrıca VRAM bant genişliği son derece önemli.
Yorumları: 4,658
Konuları: 101
Kayıt Tarihi: May 2015
Teşekkür Puanı:
0
Artı olarak Blackwell dışında NVFP4 yok eski mimarilerde, şu anda sanırım DLSS 5 modeli de FP8 olarak kuantize edilmiş. Daha NVFP4 kuantize edilmiş resmi model yok ortada. NVFP4 ile ciddi hesaplama hızı artışı ve bant genişliği kazanımı mümkün teoride ama pratikte ne olur bilemiyorum, NVFP4 konusu Blackwell ile desteklenmesine rağmen yeni yeni gelişiyor gördüğüm kadarıyla, resmi olarak yayınlandığında ne olur ne biter tekrar bakmak lazım. Benim çalıştırdığım gguf modelleri ile normal Q4 kuantizasyondan çok farklı bir hız göremedim NVFP4 versiyonunda, ama dediğim gibi bilemiyorum gerçekten, kapsamlı bir konu, resmi olarak geldiğinde göreceğiz artık nasıl olacak.
Yorumları: 4,658
Konuları: 101
Kayıt Tarihi: May 2015
Teşekkür Puanı:
0
DLSS 5 kurulumunu da hallettim, Deadspace 2023 ile denedim, şimdi model resmi olarak oyunla gelmediği için önce oyun render oluyor akabinde görüntü tekrar DLSS 5 modeli işleniyor, bu nedenle gecikme çok çok fazla, FPS aşırı düşük, yarı yarıyadan fazla bile fark ediyor, aynı sahnede GPU çekirdek sıcaklığı Preset K(DLSS 4 ile geldi, Quality ve Balanced için default model) 65-66C, Preset M(DLSS 4.5 ile geldi, Performance için varsayılan model, 2x2 grid ile çalışıyor, Preset K modeline göre daha fazla piksel üretimi yapması nedeniyle tensor çekirdeklerine daha fazla yükleniyor ve %50 çözünürlük için ideal) 68-69C, DLSS 5 neural rendering artı Preset M 73-74C oluyor kart. Performans aşırı düştüğü için bir değerlendirme yapmak çok doğru olmaz. Resmi şekilde gelecek mi neural rendering modeli.
Yorumları: 4,658
Konuları: 101
Kayıt Tarihi: May 2015
Teşekkür Puanı:
0
Bu arada Preset L en iddialı model 3x3 grid ile çalışıyor, Ultra Performance için varsayılan ve ideal model, tabii yaptığı işe göre de en çok yüklenen model GPU’ya.
Bu da DLSS 4.5 ile geldi.
Yorumları: 4,658
Konuları: 101
Kayıt Tarihi: May 2015
Teşekkür Puanı:
0
Ben de OptiscalerNR kullandım ama başka oyunla denemedim, bu arada dikkat etmek lazım DLSS5 falan derken Trojan, root kit falan gelmesin.
Resident Evil Requiem ile bakayım bir de vakit bulursam.