Opsi untuk meningkatkan performa Demo Multi Camera Multi Target Python
- _compute_mct_distance_matrixfunction dalam Multi-Camera Multi-Target Python Demo memeriksa jarak kosinus antara masing-masing dan setiap jalur satu sama lain di beberapa kamera.
- Sejumlah besar jalur memerlukan waktu berjam-jam untuk memeriksa jalur.
Opsi 1: Memvalidasi model dengan mengevaluasi performa model pada data yang tidak dilihat di PyTorch.
-
Gunakan fungsi ini:
with torch.no_grad():
for i,data in enumerate(X_test):
y_val = model.forward(data) #this function is to grab prediction
- Fungsi with torch.no_grad() akan memengaruhi mesin gradien otomatis dan pada dasarnya menonaktifkannya. Program tidak akan menekankan backpropagation karena ini hanya tentang mengevaluasi model, sehingga, tidak ada persyaratan untuk mengubah berat atau bias, dsb. Oleh karena itu, ini membantu mengurangi penggunaan memori dan mempercepat komputasi. Namun, ini hanya berlaku untuk kumpulan data pengujian, tetapi bukan kumpulan data pelatihan.
Opsi 2: Mempercepat inferensi model deep learning menggunakan Post-Training Optimization (POT).
- POT menggunakan Optimisasi Presisi Rendah yang membantu mengurangi waktu inferensi. POT tidak memerlukan kumpulan data pelatihan atau pipeline karena POT dapat diterapkan tanpa pelatihan ulang model atau penyempurnaan.
- Lihat Menggunakan Antarmuka Baris Perintah Alat Optimasi PascaPelatihan untuk implementasi langkah demi langkah.