Plugin Multi-Perangkat dengan Intel® Neural Compute Stick 2

Dokumentasi

Instal & Pengaturan

000055294

06/09/2022

OpenVINO™ Toolkit 2019 R2 memperkenalkan Plugin Multi-Perangkat yang secara otomatis menetapkan permintaan inferensi ke perangkat yang tersedia untuk menjalankan permintaan secara paralel.

  1. Buat sampel C++ dengan menjalankan build_samples.sh (Linux) atau build_samples_msvc.bat (Windows) yang ditemukan di direktori /inference_engine/samples/.
  2. Gunakan hello_query_device aplikasi sampel untuk menemukan perangkat Intel® Neural Compute Stick 2 yang tersedia (Intel® NCS 2),.

    Linux: ./hello_query_device

    Windows: hello_query_device.exe

    Sampel hello_query_device akan mengeluarkan nama perangkat yang tersedia dan informasi tambahan tentang perangkat. Untuk tujuan artikel ini, kami hanya tertarik dengan nama perangkat.

    Perangkat yang tersedia:

    Perangkat: CPU

    ...

    Perangkat: MYRIAD.1.1.2-ma2480

    ...

    Perangkat: MYRIAD.1.1.4-ma2480

    ...

  3. Gunakan benchmark_app untuk menguji dan mengonfigurasi Plugin Multi-Perangkat dengan perangkat Intel® NCS 2 yang ditemukan. Perhatikan bahwa perangkat dipisahkan oleh koma tanpa spasi.

    Linux: ./benchmark_app -d MULTI:MYRIAD.1.1.2-ma2480,MYRIAD.1.1.4-ma2480

    Windows: benchmark_app.exe-d MULTI:MYRIAD.1.1.2-ma2480,MYRIAD.1.1.4-ma2480

Informasi tambahan tentang Plugin Multi-Perangkat dapat ditemukan dalam dokumentasi toolkit OpenVINO.