Konversi Model INT8 ke Representasi Menengah (IR)
Jenis Konten: Pemecahan Masalah | ID Artikel: 000058759 | Terakhir Ditinjau: 05/03/2026
Dalam dokumentasi Optimasi Model, pelatihan sadar kuantisasi (QAT) disebutkan. Ini menyatakan bahwa QAT memungkinkan pengguna untuk mendapatkan model optimal yang akurat yang dapat dikonversi ke OpenVINO™ Representasi Menengah (IR). Namun, tidak ada rincian tambahan yang diberikan. Lihat ke:
Quantization-Aware Training (QAT), menggunakan kerangka kerja pelatihan yang kompatibel dengan OpenVINO™, didukung melalui Neural Network Compression Framework (NNCF) untuk:
NNCF adalah kerangka kerja yang menyediakan metode kompresi model pasca-pelatihan dan waktu pelatihan (termasuk QAT) dan digunakan untuk mengoptimalkan model untuk inferensi OpenVINO.
Setelah penyetelan QAT selesai, model yang dioptimalkan dapat diekspor (umumnya ke ONNX*) lalu dikonversi ke IR OpenVINO™ untuk penerapan.
| Catatan | Transisi ke presisi INT8 dan manfaat footprint terkait terjadi setelah mengonversi model ke IR OpenVINO. |