ID Artikel: 000059690 Jenis Konten: Informasi & Dokumentasi Produk Terakhir Ditinjau: 02/03/2023

Apa Hubungan antara Kompleksitas Model dan Throughput Inferensinya?

Lingkungan

NCS2

BUILT IN - ARTICLE INTRO SECOND COMPONENT
Ringkasan

Faktor-faktor yang dapat memengaruhi FPS yang diperoleh dari Benchmark Tool

Deskripsi

Tidak dapat menentukan mengapa Benchmark Tool melaporkan FPS inferensi serupa untuk dua model kompleksitas yang sangat berbeda, yang didefinisikan oleh Giga Floating Point Operations (GFLOP).

Resolusi
  • Jumlah FLOP yang lebih tinggi berbanding lugas dengan jumlah FPS yang dikurangi. Namun, tidak ada perbandingan yang adil antara FPS dan FLOP.
  • Faktor-faktor yang dapat memengaruhi FPS yang diperoleh dari Benchmark Tool:
    • Berjalan dalam mode sinkron dan asinkron
    • Jumlah streaming
    • Jumlah permintaan inferensi
Informasi tambahan

Intel® NCS2 dibangun di atas VPU Intel® Movidius™ Myriad™ X yang dilengkapi 16 inti cukur yang dapat diprogram dan mesin komputasi syaraf khusus. Fitur ini meningkatkan performa jaringan.

Produk Terkait

Artikel ini berlaku untuk 2 produk

Isi halaman ini adalah kombinasi terjemahan manusia dan komputer dari konten berbahasa Inggris. Konten ini diberikan hanya untuk kenyamanan Anda serta sebagai informasi umum dan tidak bisa dianggap sebagai lengkap atau akurat. Jika terdapat kontradiksi antara versi bahasa Inggris halaman ini dan terjemahannya, versi bahasa Inggris akan didahulukan. Lihat versi bahasa Inggris halaman ini.