Bu bölümdeki komutların çalıştırılabilmesi için sürücü ve çalışma zamanı kurulumunun tamamlanmış olması
gerekmektedir. Kurulum adımları için Kurulum bölümünü inceleyebilirsiniz.
Komut Satırı Araçları
DX-RT çalışma zamanı ile birlikte aşağıdaki yardımcı araçlar kurulmaktadır.Cihaz Durumunun Sorgulanması
Modülün anlık sıcaklık, gerilim ve saat frekansı değerlerini görüntülemek için--status seçeneği
kullanılmaktadır.
--info seçeneği kullanılmaktadır.
dxrt-cli aracının sık kullanılan seçenekleri aşağıdaki tabloda listelenmiştir.
Örneğin cihaz durumunu 1 saniyelik aralıklarla izlemek için aşağıdaki komutu kullanabilirsiniz.
NPU Kullanımının İzlenmesi
Uygulamanız çalışırken NPU çekirdeklerinin ne kadar meşgul olduğunu gözlemlemek içindxtop aracını
kullanabilirsiniz.
q tuşuna basmanız yeterlidir.
Hazır Modellerin İndirilmesi
NPU yalnızca.dxnn biçimine derlenmiş modelleri çalıştırabilmektedir. Bu bölümdeki örnekleri denemek için
kendi modelinizi derlemenize gerek bulunmamaktadır; DEEPX model deposunda (Model Zoo) önceden derlenmiş
üç yüzden fazla model hazır olarak sunulmaktadır.
Modellerin İndirilmesi
Model deposunun tamamına erişmek ve modelleri kategori bazında indirmek için DX-APP deposundakisetup.sh
betiği kullanılmaktadır. Betik, indirilen dosyaları assets/models klasörüne yerleştirmektedir.
Sık kullanılan bazı modellerin dosya adları aşağıdaki tabloda listelenmiştir.
Betik hiçbir seçenek verilmeden çalıştırıldığında kategori ve model seçimi menü üzerinden yapılmaktadır.
Kullanılabilir modellerin listesi
scripts/modelzoo_manifest.json dosyasında tutulmaktadır.Model Performansının Ölçülmesi
Derlenmiş bir modelin kart üzerindeki gerçek performansını ölçmek içinrun_model aracı kullanılmaktadır.
gerekli
Ölçüm yapılacak
.dxnn model dosyasının yolu.Maksimum verim modunda ölçüm yapar. Varsayılan çalışma modudur.
Tek çekirdek üzerinde, sıralı olarak tek girdi ile ölçüm yapar.
varsayılan:"30"
Gerçekleştirilecek çıkarım döngüsü sayısı.
Ölçümün saniye cinsinden süresi. Belirtildiğinde
--loops değerini geçersiz kılar.varsayılan:"0"
Ölçüme başlamadan önce yapılacak ısınma turu sayısı.
NPU işlem süresi ve gecikme (latency) değerlerini ayrıntılı olarak gösterir.
Python ile Çıkarım Yapılması
Python uygulamalarında NPU’yu kullanmak içindx_engine paketi içerisindeki InferenceEngine sınıfı
kullanılmaktadır. Temel akış; modelin yüklenmesi, girdi bufferının hazırlanması, çıkarımın çalıştırılması ve
sonuçların işlenmesi adımlarından oluşmaktadır.
Model Bilgilerinin Alınması
Girdi ve çıktı katmanlarına ait bilgiler, ön işleme ve son işleme adımlarının doğru yazılabilmesi için çalışma zamanından sorgulanabilmektedir.Asenkron Çıkarım
Video akışı gibi sürekli veri işlenen uygulamalarda, çıkarım işleminin sonucunu beklemeden yeni kare göndermek performansı artırmaktadır. Bu amaçlarun_async metodu kullanılmaktadır. Metot, çıkarım
tamamlanmasını beklemeden bir iş numarası döndürmektedir.
Sonuçların toplanması için iki yöntem bulunmaktadır. Geri çağırma (callback) fonksiyonu kaydedilerek
sonuçların otomatik olarak iletilmesi sağlanabilir veya iş numarası ile wait metodu kullanılarak sonuç
talep edilebilir.
Geri çağırma fonksiyonu ayrı bir iş parçacığında (thread) çalıştırıldığından, paylaşılan veri yapılarına
erişimde kilit kullanılması gerekmektedir.
Performans Ölçümü ve Cihaz İzleme
Çıkarım performansırun_benchmark metodu ile ölçülebilmekte, cihaz durumu ise DeviceStatus sınıfı ile
uygulama içerisinden okunabilmektedir.
C/C++ Arayüzü
DX-RT, Python arayüzünün yanı sıra C ve C++ arayüzü de sunmaktadır. C++ tarafında aynı iş akışıdxrt::InferenceEngine sınıfı ile gerçekleştirilmektedir.

