PCIe · DMA · Kenarda yapay zekâ
Doğrudan GPU'ya: TI Jacinto'dan Jetson Orin'e zero-copy PCIe
Tek kamera karesi, dört GPU ve onu görmeyi bekleyen bir operatör. Kare TI Jacinto'ya iner, oradan sonrasını DMA üstlenir ve PCIe üzerinden doğrudan Jetson Orin'in GPU belleğine yazılır; işlemci kareye dokunmaz. Sonra aynı kartlar ve aynı kablo, bu kez her kareyi işlemci kopyalarken.
Bölümler
İLLÜSTRASYON + TEZGÂH VERİSİ
Fabrika, dört Orin'li hat ve kontrol odası 3B illüstrasyondur; veri yolları, kart etkinliği ve tespitler canlandırmadır, kayıtlı çıktı değildir. Hattın uçtan uca gecikmesi ölçülmedi. Görüntüdeki bant genişliği ve hız oranı kendi tezgâhımızda ölçüldü; kurulum metinde yazıyor.
01Görüntü ne anlatıyor
Bir kamera karesi operatörün ekranına varmadan önce birkaç işlemciden geçebilir. Görüntü tek bir kareyi izliyor: kare TI Jacinto'ya iniyor, oradan sonrasını DMA üstleniyor ve PCIe üzerinden doğrudan Jetson Orin'in GPU belleğine yazılıyor. Arada işlemcinin yaptığı bir kopya yok.
Aynı hatta dört Orin var ve her birine tek bir yapay zekâ işi atanmış: video stabilizasyonu, görüntü iyileştirme, nesne takibi ve gösterge okuma. Her biri kare indiği anda, yoklamayla değil bir kesmeyle işe başlıyor. Kare sonra Jacinto'ya dönüyor ve WebRTC ile operatörün ekranına canlı gidiyor. Ardından aynı kartlar ve aynı kablo, bu kez her kareyi işlemci kopyalarken çalışıyor: her kopya bir bekleyiş. PCIe sürücülerini iki tarafta da biz yazıyoruz: bellek yönetimi, DMA aktarımları, eşzamanlama ve iki yönlü kesmeler.
Kavramsal bir görüntüdür: dört Orin'li hat, fabrika ve kontrol odası 3B illüstrasyondur; veri yolları ve tespitler canlandırmadır. Dört Orin'li hattın uçtan uca gecikmesi ölçülmedi. Tezgâhımızda ölçtüğümüz (Eylül 2026): TI Jacinto 7 (J784S4) ile NVIDIA Jetson AGX Orin arasında, PCIe Gen3 ×4 üzerinden DMA ile 3,0–3,2 GB/s. Aynı hatta DMA, işlemcinin yaptığı kopyadan yaklaşık 8 kat hızlı çalıştı (128 MB'lik aktarımlar).
02Transkript
Görüntü İngilizce seslendirildi. Her satırın altında özgün metin duruyor; zaman damgasına tıklayınca görüntü o andan başlar.
Tek kare. Dört GPU. Ve onu görmeyi bekleyen bir operatör.
One frame. Four GPUs. And an operator waiting to see it.
Kare TI Jacinto'ya iner.
It lands on a TI Jacinto.
Oradan sonrasını DMA üstlenir; işlemci kareye hiç dokunmaz.
DMA takes it from there; the CPU never touches it.
PCIe üzerinden, doğrudan Jetson Orin'in GPU belleğine.
Over PCIe, straight into the GPU memory of a Jetson Orin.
Tek hatta dört Orin. Birincisi görüntüyü sabitler.
Four Orins on one line. The first steadies it.
İkincisi netleştirir.
The second clears it.
Üçüncüsü hareket edeni izler.
The third tracks what moves.
Dördüncüsü göstergeleri okur.
The fourth reads the gauges.
Her biri kare indiği anda işe başlar.
Each one starts the moment the frame lands.
Sonra Jacinto'ya geri döner ve WebRTC ile operatörün ekranına canlı gider.
Then back to the Jacinto, and out over WebRTC, live on the operator's screen.
Aynı kartlar. Aynı kablo. Şimdi her kareyi işlemci kopyalasın.
Same boards. Same cable. Now let the CPU copy every frame.
Her kopya bir bekleyiştir.
Every copy is a wait.
Tezgâhımızda DMA, aynı hatta işlemci kopyasından yaklaşık sekiz kat hızlı çalıştı.
On our bench, DMA ran about eight times faster than CPU copies on the same link.
Hâlâ videonun bitmesini mi bekliyorsunuz?
Still waiting for the video to end?
Beklemek istemiyorsanız doğru yerdesiniz.
If you'd rather not wait, you're in the right place.
