Instal OpenVINO™ Toolkit untuk Raspbian* OS dari Gambar Docker*

Intel Distribution of OpenVINO toolkit memudahkan untuk mengadopsi dan memelihara kode Anda. Runtime (mesin inferensi) memungkinkan Anda menyetel performa dengan mengompilasi jaringan yang dioptimalkan dan mengelola operasi inferensi pada perangkat tertentu.

Panduan ini memberi pengguna langkah-langkah untuk membuat image Docker* guna menginstal toolkit OpenVINO™ untuk Raspbian* OS.

Persyaratan sistem

Sistem operasi target

• Peregangan Raspbian*, 32-bit
• Raspbian* Buster, 32-bit

Sistem operasi host

• Peregangan Raspbian*, 32-bit
• Raspbian* Buster, 32-bit

Perangkat keras

• Board Raspberry Pi* dengan arsitektur CPU ARM* ARMv7-A. Periksa apakah uname -m pengembalian armv7l.
  • Raspberry Pi* 3 Model B+
  • Raspberry Pi* 4 Model B
• Intel® Neural Compute Stick 2

Perangkat lunak

• Docker untuk Raspbian*

Membangun citra Docker* untuk Intel® Neural Compute Stick 2

Buat gambar

Untuk membuat image Docker*, Anda harus membuat Dockerfile yang berisi variabel dan perintah yang ditentukan yang diperlukan untuk membuat image instalasi toolkit OpenVINO™.

Buat Dockerfile Anda menggunakan contoh berikut sebagai templat.

1. Buat atau buka direktori tempat Anda akan membuat image Docker*. Dokumen ini membuat direktori ~/docker .

   mkdir ~/docker && cd ~/docker

2. Unduh template Dockerfile (ZIP) dari panduan ini atau buat Dockerfile Anda sendiri menggunakan konten template di bawah ini.

   vi Dockerfile

   FROM balenalib/raspberrypi3:buster

   ARG DOWNLOAD_LINK=https://github.com/openvinotoolkit/openvino/releases/download/2022.2.0/l_openvino_toolkit_debian9_arm_2022.2.0.7713.af16ea1d79a_x86_64.tgz
ARG INSTALL_DIR=/opt/intel/openvino
ARG BIN_FILE=https://storage.openvinotoolkit.org/repositories/open_model_zoo/2022.1/models_bin/3/person-vehicle-bike-detection-crossroad-0078/FP16/person-vehicle-bike-detection-crossroad-0078.bin
ARG WEIGHTS_FILE=https://storage.openvinotoolkit.org/repositories/open_model_zoo/2022.1/models_bin/3/person-vehicle-bike-detection-crossroad-0078/FP16/person-vehicle-bike-detection-crossroad-0078.xml
ARG IMAGE_FILE=https://cdn.pixabay.com/photo/2018/07/06/00/33/person-3519503_960_720.jpg

   RUN apt-get --allow-unauthenticated upgrade
RUN apt-get update && apt-get install -y --no-install-recommends \
apt-utils \
automake \
cmake \
cpio \
gcc \
g++ \
libatlas-base-dev \
libstdc++6 \
libtool \
libusb-1.0.0-dev \
lsb-release \
make \
python3-pip \
python3-numpy \
python3-scipy \
libgtk-3-0 \
pkg-config \
libavcodec-dev \
libavformat-dev \
libswscale-dev \
sudo \
udev \
unzip \
vim \
git \
wget && \
rm -rf /var/lib/apt/lists/*
RUN mkdir -p $INSTALL_DIR && cd $INSTALL_DIR && \
wget -c $DOWNLOAD_LINK && \
tar xf l_openvino_toolkit_debian9_arm*.tgz --strip 1 -C $INSTALL_DIR
# add USB rules
RUN sudo usermod -a -G users "$(whoami)"
# build Object Detection sample
RUN /bin/bash -c "source $INSTALL_DIR/setupvars.sh && \
cd $INSTALL_DIR/install_dependencies && \
sh install_NCS_udev_rules.sh"
RUN echo "source /opt/intel/openvino/setupvars.sh" >> ~/.bashrc && \
mkdir /root/Downloads && \
cd $INSTALL_DIR/samples/c/ && \
/bin/bash -c "source $INSTALL_DIR/setupvars.sh && \
./build_samples.sh && \
cd $INSTALL_DIR/samples/cpp/ && \
./build_samples.sh && \
wget --no-check-certificate $BIN_FILE -O /root/Downloads/person-vehicle-bike-detection-crossroad-0078.bin && \
wget --no-check-certificate $WEIGHTS_FILE -O /root/Downloads/person-vehicle-bike-detection-crossroad-0078.xml && \
wget --no-check-certificate $IMAGE_FILE -O /root/Downloads/walk.jpg "

   Nota

   Anda perlu mengganti tautan langsung ke paket toolkit OpenVINO™ dalam variabel DOWNLOAD_LINK pada templat di atas dengan tautan versi terbaru. Anda dapat menyalin tautan toolkit OpenVINO untuk paket Raspbian* OS (yaitu l_openvino_toolkit_debian9_arm_*_x86_64.tgz) dari https://storage.openvinotoolkit.org. Pilih versi terbaru yang tersedia, klik kanan URL, dan tekan Salin alamat tautan.

3. Untuk membuat gambar Docker* untuk Intel® Movidius™ Neural Compute Stick atau Intel® Neural Compute Stick 2, jalankan perintah berikut:

   docker build . -t <image_name>

   (for example, docker build . -t openvino-rpi)

Menjalankan dan menguji gambar Docker*

Batasan yang diketahui:

• Perangkat Intel® Neural Compute Stick 2 mengubah VendorID dan DeviceID selama eksekusi dan setiap kali mencari sistem host sebagai perangkat baru. Ini berarti tidak dapat dipasang seperti biasa.
• Peristiwa UDEV tidak diteruskan ke kontainer secara default, sehingga tidak mengetahui koneksi ulang perangkat.
• Hanya satu perangkat yang didukung per host.

Menjalankan Aplikasi Benchmark

Aplikasi ini bekerja dengan model dalam format OpenVINO IR (model.xml dan model.bin) dan ONNX (model.onnx). Pastikan untuk mengonversi model Anda jika perlu.

1. Gunakan opsi berikut untuk menjalankan gambar di Intel® Neural Compute Stick 2. Untuk menjalankan kontainer ini dalam mode interaktif dan istimewa, aktifkan konfigurasi jaringan Docker sebagai host, lalu pasang semua perangkat ke kontainer:

   docker run -it --privileged -v /dev:/dev --network=host <image_name> /bin/bash

   (for example, docker run -it --privileged -v /dev:/dev --network=host openvino-rpi /bin/bash)

2. Gunakan perintah berikut untuk menjalankan aplikasi benchmark. Buka direktori sampel build:

   cd /root/inference_engine_._samples_build/armv7l/Release/

3. Jalankan benchmark dengan opsi default, gunakan perintah berikut dengan spesifikasi untuk model dan jalur ke gambar input:

   ./benchmark_app -m ~/Downloads/person-vehicle-bike-detection-crossroad-0078.xml -i ~/Downloads/walk.jpg -d MYRIAD

Ini melengkapi prosedur instalasi untuk toolkit OpenVINO™ untuk Raspbian* dari gambar Docker*.