Intel® FPGA AI Suite
Temukan cara Intel® FPGA AI Suite dapat menambahkan FPGA AI ke sistem dan pusat data yang tertanam.
Ikhtisar
Intel FPGA memungkinkan inferensi deep learning real-time, latensi rendah, dan daya rendah yang dikombinasikan dengan keunggulan berikut:
- Fleksibilitas I/O
- Rekonfigurasi
- Integrasi yang mudah ke platform kustom
- Umur panjang
Intel® FPGA AI Suite dikembangkan dengan visi inferensi artificial intelligence (AI) yang mudah digunakkan pada Intel® FPGA. Rangkaian ini memungkinkan desainer FPGA, insinyur machine learning, dan developer perangkat lunak untuk membuat platform FPGA AI yang dioptimalkan secara efisien.
Utilitas dalam Intel® FPGA AI Suite mempercepat pengembangan FPGA untuk inferensi AI menggunakan kerangka kerja industri yang akrab dan populer seperti TensorFlow atau PyTorch dan OpenVINO Toolkit, sekaligus memanfaatkan alur pengembangan FPGA yang kuat dan terbukti dengan Perangkat Lunak Intel Quartus Prime.
Alur Intel® FPGA AI Suite bekerja dengan OpenVINO Toolkit, proyek sumber terbuka untuk mengoptimalkan inferensi pada berbagai arsitektur perangkat keras. OpenVINO Toolkit mengambil model Deep Learning dari semua kerangka kerja Deep Learning utama (seperti TensorFlow, PyTorch, Keras) dan mengoptimalkannya untuk inferensi pada berbagai arsitektur perangkat keras, termasuk berbagai CPU, CPU+GPU, dan FPGA.
Temukan cara Intel® FPGA AI Suite dapat menambahkan FPGA AI ke sistem yang tertanam dan pusat data. Hubungi Sales Intel untuk harga dan ketersediaan ›
Mulai Hari Ini
Alasan FPGA Sangat Baik untuk Menerapkan AI
Baca tentang cara Intel® FPGA dan SoC dengan Intel® FPGA AI Suite dan OpenVINO Toolkit mendorong aplikasi AI//machine learning edge/tertanam dalam laporan resmi ini.
Baca laporan resmi
Testimoni Pelanggan
"Intel® FPGA AI Suite dan Intel® Distribution of OpenVINO™ toolkit yang mudah digunakan memungkinkan Stryker untuk mengembangkan Intel® FPGA IP yang dioptimalkan untuk inferensi deep learning. IP inferensi berhasil diintegrasikan ke dalam Intel® FPGA menggunakan Perangkat Lunak Intel® Quartus® Prime. Contoh desain yang disediakan dengan rangkaian memungkinkan tim untuk mengevaluasi algoritma berbeda untuk sumber gambar yang berbeda. Intel® FPGA AI Suite dan Intel® Distribution of OpenVINO toolkit memungkinkan ilmuwan data dan insinyur FPGA untuk bekerja sama mengembangkan inferensi deep learning secara optimal untuk aplikasi medis." — Tim Teknik Stryker
Fitur utama
Performa Tinggi
Intel Agilex® 7 FPGA Seri M dapat mencapai performa teoritis maksimum 38 INT8 TOPS, atau 3.679 frame Resnet-50 per detik pada pemanfaatan FPGA 90%.
Integrasi Sistem Mudah
Mendukung integrasi dengan IP kustom seperti ADC/DAC, video, dan Ethernet untuk mencapai jejak terkecil dan latensi terendah.
Total Biaya Kepemilikan yang Rendah
Minimalkan TCO dengan inferensi AI granularitas halus, yang dapat diskalakan dan dikustomisasi dengan sangat mudah, untuk beragam performa dan ukuran batch.
Alur Sederhana dan Standar
Buat dan tambahkan IP inferensi AI ke desain FPGA saat ini atau yang baru dengan Perangkat Lunak atau Desainer Platform Intel® Quartus Prime.
Dukungan Front End AI
Gunakan front end AI favorit Anda seperti TensorFlow, Caffe, Pytorch, MXNet, Keras, dan ONNX.
Optimasi OpenVINO
OpenVINO Toolkit mengoptimalkan performa dan daya sekaligus meminimalkan logika dan jejak memori.
Alur Pengembangan Inferensi FPGA AI
Alur pengembangan inferensi AI ditunjukkan pada Gambar 1. Alur ini dengan mudah menggabungkan alur kerja perangkat keras dan perangkat lunak ke alur kerja AI end-to-end yang umum. Langkah-langkahnya adalah sebagai berikut:
1. Model Optimizer dalam OpenVINO Toolkit membuat file jaringan representasi menengah (.xml) serta file bobot dan bias (.bin).
2. Kompiler Intel® FPGA AI Suite digunakan untuk:
- Memberikan perkiraan area atau metrik performa untuk file arsitektur tertentu atau menghasilkan file arsitektur yang optimal. (Arsitektur mengacu pada parameter IP inferensi seperti ukuran array PE, presisi, fungsi aktivasi, lebar antarmuka, ukuran jendela, dll.)
- Kompilasi file jaringan ke dalam file .bin dengan partisi jaringan untuk FPGA dan CPU (atau keduanya) bersama dengan bobot dan bias.
3. File .bin yang dikompilasi diimpor oleh aplikasi inferensi pengguna pada saat runtime.
- Runtime antarmuka pemrograman aplikasi (API) mencakup API Mesin Inferensi (runtime partisi CPU dan FPGA, inferensi jadwal) dan FPGA AI (memori DDR, blok perangkat keras FPGA).
- Desain referensi menunjukkan operasi dasar mengimpor .bin dan menjalankan inferensi pada FPGA dengan CPU host yang mendukung (prosesor x86 dan Arm).
Gambar 1: Alur Pengembangan Intel® FPGA AI Suite
Catatan:
Perangkat yang didukung: Intel Agilex® 7 FPGA, Intel® Cyclone® 10 GX FPGA, Intel® Arria® 10 FPGA
Jaringan, lapisan, dan fungsi aktivasi yang diuji1:
- ResNet-50, MobileNet v1/v2/v3, YOLO v3, TinyYOLO v3, UNET, i3d
- Conv 2D, Conv 3D, Terhubung Sepenuhnya, Softmax, BatchNorm, Mult EltWise, Clamp
- ReLU, PReLU
Arsitektur Tingkat Sistem
Intel® FPGA AI Suite fleksibel dan dapat dikonfigurasi untuk berbagai kasus penggunaan tingkat sistem. Cara umum untuk menggabungkan IP FPGA AI Suite ke dalam sistem tercantum pada Gambar 2. Kasus penggunaan menjangkau berbagai vertikal dari platform tertanam yang dioptimalkan mulai dari aplikasi dengan CPU host (prosesor Intel® Core™, prosesor Arm) hingga lingkungan pusat data dengan prosesor Intel® Xeon® dan juga hingga aplikasi tanpa host (atau prosesor lunak seperti prosesor Nios® V).
Gambar 2: Topologi Khusus Sistem Intel® FPGA AI Suite
Offload CPU
Akselerator AI
Offload CPU multi-fungsi
Akselerator AI + Fungsi Perangkat Keras Tambahan
Pemrosesan Ingest / Inline + AI
Akselerator AI + Direct Ingest dan Streaming Data
SoC FPGA + AI Tertanam
Akselerator AI + Direct Ingest dan Streaming Data + Fungsi Perangkat Keras +
Prosesor Arm atau Nios® II atau Nios V Tertanam
Video Demo
Ikhtisar Intel® FPGA AI Suite
Tonton video ini untuk mengenal alur desain Intel® FPGA AI Suite.
Video Demo Instalasi Intel® FPGA AI Suite
Menginstal Intel® FPGA AI Suite itu mudah, lihat video ini untuk demo instalasinya.
Video Demo Kompilasi Intel® FPGA AI Suite
Tonton demo singkat Intel® FPGA AI Suite yang mengompilasi model RESNET-50 yang telah dilatih sebelumnya dan hasil inferensi outputnya.
Video Demo Instalasi dan Penyiapan Intel Agilex® FPGA Board
Tutorial singkat ini akan memandu Anda tentang cara mudah menyiapkan dan memprogram Intel Agilex® 7 FPGA untuk menggunakan Intel® FPGA AI Suite.
Contoh Desain PCIe Intel® FPGA AI Suite
Video ini memperkenalkan beberapa kemampuan Intel FPGA AI Suite.