NVIDIA TensorRT for RTX: Yerel AI Performansını Katlıyor

NVIDIA, yeni TensorRT for RTX teknolojisini Microsoft Build 2025’te tanıttı. Bilhassa Windows 11 kullanıcıları için gelen bu yenilik, masaüstü RTX ekran kartlarında yapay zeka performansını bariz halde artırmayı hedefliyor.

NVIDIA, yapay zekâ uygulamalarının daha süratli ve verimli çalışmasını sağlamak için uzun müddettir çalışmalar yürütüyor. Yeni TensorRT for RTX, bilgi merkezlerinde kullanılan hızlandırma tekniklerini artık son kullanıcıya da getiriyor. RTX kartı olan herkes, bu teknolojinin avantajlarından yararlanabilecek.

NVIDIA TensorRT for RTX: Lokal AI Performansını Katlıyor

Yerel GPU’da Yüzde 50’ye Varan Performans Artışı

TensorRT for RTX, yeni kuşak yapay zekâ modellerini ferdî bilgisayarlarda daha süratli çalıştırmak için optimize edildi. Sistem, modellerin GPU üzerinde direkt birkaç saniye içinde derlenmesini sağlıyor. Böylelikle uzun derleme mühletleri tarihe karışıyor.

FP4 ve FP8 üzere düşük hassasiyetli formatlar da destekleniyor. Bu, belleğin daha verimli kullanılmasına imkan tanıyor. Uygulamalar, daha düşük bellekle yüksek süreç gücüne ulaşabiliyor.

TensorRT for RTX’in boyutu sadece 200 MB. Windows ML ile otomatik olarak indiriliyor ve art planda kuruluyor. NVIDIA’nın savına nazaran, RTX 5090 kartlarında DirectML’ye kıyasla çok daha süratli sonuçlar elde ediliyor.

Ekstra Optimizasyon ve Süratli Başlangıç

TensorRT for RTX, çıkarım motorunun evvelce derlenmesini gerektirmiyor. Her model başlatıldığında, GPU’ya mahsus motor birkaç saniyede otomatik olarak hazırlanıyor. Bu da %20’ye varan ek bir performans artışı sunuyor.

Kısacası, NVIDIA’nın yeni tahliliyle, Windows tabanlı sistemlerde yapay zekâ dayanaklı uygulamalar daha süratli ve akıcı çalışacak. Bilhassa üretken yapay zekâ uygulamaları kullanan kullanıcılar, bu performans artışını yakından hissedecek.

Kaynak: İndir