Nöromorfik · GPU · Kestirimci bakım
Her şeyi hesaplamak mı? Kestirimci bakımda nöromorfik işlemci ve GPU
Uçta asıl soru ne kadar hızlı hesapladığımız değil, her şeyi hesaplamamız gerekip gerekmediği. Jetson Orin Nano Super her sensör penceresini modelin tamamından geçirir; BrainChip AKD1500 yalnızca bir olay geldiğinde çalışır. Örnek bir pompa motorunun rulmanı.
Bölümler
KAVRAMSAL GÖRÜNTÜ
Fabrika, motor, Jetson modülü, AKD1500 çipi ve rulman 3B illüstrasyondur. Bellek trafiği, çip içindeki düğümler ve olay zinciri kavramsal canlandırmadır, gerçek bir kalıp yerleşimi ya da kayıtlı çıktı değildir. Güç ve trafik göstergeleri niteldir; iki cihaz birbirine karşı ölçülmedi. Ekrandaki ölçüler üreticilerin yayımladığı değerlerdir.
01Görüntü ne anlatıyor
GPU tabanlı bir platform her sensör penceresini modelin tamamından geçirir. Ağırlıklar ve ara sonuçlar, girişte bir şey değişsin ya da değişmesin, bellek ile GPU arasında tekrar tekrar taşınır; her gidiş zamana ve enerjiye mal olur. Nöromorfik işlemci başka bir soru sorar: değişmeyeni neden yeniden işleyelim? AKD1500'de hesap, çipin üstündeki belleğin hemen yanında yapılır ve yalnızca bir olay geldiğinde çalışır. Giriş sakinse çip de sakindir.
Örnek bir pompa motorunun rulmanı. Makine günlerce normal çalışabilir; sürekli hesaplayan bir hat o günlerin her saniyesini işler. Olay tabanlı bir çip bekler, değişim başladığı an tepki verir ve ağır sistemi yalnızca bakılacak bir şey olduğunda uyandırabilir. Bu GPU'ya karşı nöromorfik bir yarış değil: doğru işi doğru donanıma vermek, Spikedge'in yaptığı mimari iş de bu.
Bu bir 3B canlandırmadır. Bellek trafiği ve olay zinciri kavramsaldır; güç ve trafik göstergeleri niteldir, bu iki cihazı birbirine karşı ölçmedik. Ölçüler üreticilerin yayımladığı değerlerdir: Jetson Orin Nano modülü 69,6 × 45 mm, BrainChip AKD1500 paketi 7 × 7 mm ve 1 MB çip üstü SRAM.
02Transkript
Görüntü İngilizce seslendirildi. Her satırın altında özgün metin duruyor; zaman damgasına tıklayınca görüntü o andan başlar.
Uçta asıl soru ne kadar hızlı hesaplayabildiğimiz değil.
At the edge, the real question isn't how fast we can compute.
Her şeyi hesaplamamız gerekip gerekmediği.
It's whether we need to compute it all.
Bir Jetson'da her sensör penceresi modelin tamamından geçer.
Inside a Jetson, every sensor window runs through the whole model.
Ağırlıklar ve ara sonuçlar bellek ile GPU arasında gidip gelir.
Weights and intermediate results shuttle between memory and the GPU.
Her gidiş zamana ve enerjiye mal olur.
Every trip costs time and energy.
Peki hiçbir şey değişmediyse?
But what if nothing changed?
Şimdi yedi milimetrelik bir çipe bakın.
Now look at a seven millimetre chip.
Değişmeyeni neden işleyelim?
Why process what hasn't changed?
Akida'da hesap, belleğinin hemen yanındadır.
On Akida, compute sits right next to its memory.
Yalnızca bir olay geldiğinde çalışır; yoksa sessiz kalır.
It works only when an event arrives. Otherwise, it stays quiet.
Bir rulman düşünün. Makine günlerce normal çalışabilir.
Take a bearing. A machine can run normally for days.
Sürekli hesaplayan bir hat o günlerin her saniyesini işler.
A dense pipeline processes every second of those days.
Olay tabanlı bir çip bekler ve değişim başladığı an tepki verir.
An event-driven chip waits, and reacts the moment change begins.
Bu GPU'ya karşı nöromorfik değil. Doğru iş, doğru donanımda.
This isn't GPU versus neuromorphic. It's the right job on the right hardware.
Yalnızca hesap gücü eklemeyin. Mimarisini kurun.
Don't just add compute. Architect it.
