13.1.16. Model zoo ve NPU dönüştürme

IDE, önceden eğitilmiş makine öğrenimi modellerinden oluşan bir kütüphaneyle gelir – yüz tespiti, kişi tespiti, nesne tespiti, poz tahmini ve daha fazlası – IDE’nin kaynak güncellemeleri aracılığıyla güncel tutulur. Tools → Machine Vision → Open Model Zoo bunu tarar: dosya ağacının yanında açıklama sayfasını görmek için bir model seçin ve listeyi kartınıza uyan modellerle daraltmak için filtreyi işaretleyin.

Bir model seçili ve açıklama sayfası açık olan Model Zoo tarayıcısı.

Bir model seçin ve IDE onu çalıştırılmaya hazır olarak dışarı kopyalar: kartın bir NPU hızlandırıcısı olduğunda modeli hedef kartın NPU’su için dönüştürür, eşleşen etiket dosyasını yanına kopyalar ve hedefi varsayılan olarak bağlı kameranın sürücüsüne ayarlar. Oradan betik tarafı tek bir ml.Model kurucu çağrısı uzaklıktadır. Aynı tarayıcıya ROMFS düzenleyicisi içinden de erişilebilir; bu, ROMFS’ye sahip kartlarda modeller için daha iyi bir hedeftir – ROMFS’deki modeller bir RAM kopyası olmadan doğrudan flash bellekten yürütülür.

13.1.16.1. Diğer modelleri dönüştürme

Tools → Machine Vision → Convert Model for NPU, başka herhangi bir yerden gelen bir model üzerinde aynı dönüştürmeyi çalıştırır – Edge Impulse veya Roboflow ile eğitilmiş, bir eğitim çerçevesinden dışa aktarılmış veya indirilmiş bir model. NPU donanımlı kartların her birinin, IDE’nin içerdiği ve çalıştırdığı bir tedarikçi derleyicisi vardır: Ethos-U NPU’ları Vela kullanır ve ST Neural-ART NPU’ları ST Edge AI kullanır. Araç, hedef kartı bağlı kameradan alır (veya hiçbiri bağlı olmadığında sorar) ve model dosyasını sizden alır. Zaten dönüştürülmüş bir model tanınır ve yalnızca kopyalanır ve seçilen kartın NPU’su olmadığında araç bunu bildirir ve dönüştürmeyi atlar – dönüştürülmemiş bir model bu kartlarda yine de, CPU üzerinde çalışır.

NPU kartlarında dönüştürme isteğe bağlı değildir: en iyi durumda dönüştürülmemiş bir model CPU’ya geri döner ve birçok kat daha yavaş çalışır ve bazı kartlarda hiç çalışmaz. ROMFS düzenleyicisi ve model zoo dönüştürmeyi otomatik olarak uygular; bu menü girişi, başka yollarla gelen modeller için vardır.

Ayrıca bakınız

ml modülüyle modelleri çalıştırma ve özel olanları eğitme için makine öğrenimi bölümü.