Field Programmable Gate Array (FPGA) untuk Artificial Intelligence (AI)

Temukan bagaimana karakteristik unik FPGA dapat membantu mendukung AI di edge, di pusat data, dan di cloud.

Poin-Poin Utama

  • FPGA adalah komponen komputasi yang dapat dikonfigurasi ulang yang dapat digunakan untuk mengakselerasi beban kerja AI.

  • FPGA memainkan peranan penting dalam mendukung AI di edge, di pusat data, dan di cloud.

  • Memanfaatkan FPGA untuk solusi AI membantu mengoptimalkan efisiensi energi, I/O, dan performa sekaligus mempertahankan fleksibilitas di masa depan.

  • Kasus penggunaan AI yang melibatkan FPGA menjangkau hampir setiap industri; FPGA dapat diterapkan dalam perangkat tertanam dan server AI.

author-image

Oleh

Apa Itu FPGA?

FPGA adalah sejenis komponen komputasi yang dapat diprogram ulang untuk menjalankan berbagai tujuan berbeda. Dibandingkan dengan teknologi pemrosesan seperti CPU dan GPU, FPGA lebih serbaguna, dengan kemampuan untuk dikonfigurasi ulang agar sesuai dengan berbagai kasus penggunaan. FPGA menawarkan kombinasi kecepatan, kemampuan pemrograman, dan fleksibilitas untuk menghadirkan performa tanpa biaya dan kompleksitas dalam mengembangkan chip kustom.

Di dalam bidang AI, FPGA sering digunakan sebagai akselerator AI dan prosesor AI yang membantu mendukung beban kerja AI mulai dari edge hingga cloud. Interkonektivitas dalam FPGA menyerupai jaringan saraf di otak manusia. Fabric logika yang dapat diprogram dalam FPGA terhubung secara sama, yang menjadi salah satu alasan mengapa FPGA adalah target implementasi yang sangat baik untuk jaringan neural dan beban kerja AI lainnya. FPGA diterapkan bersama dengan CPU untuk menangani fungsi spesifik yang vital untuk keberhasilan aplikasi AI secara keseluruhan.

Peran FPGA dalam AI

FPGA digunakan untuk mendukung aplikasi AI di cloud, di pusat data, dan di edge. FPGA adalah alat yang efektif untuk membantu menghilangkan buffering memori dan mengatasi bottleneck I/O, yang merupakan kendala paling membatasi dalam performa sistem AI. Dengan mengakselerasi konsumsi data, FPGA dapat mempercepat seluruh alur kerja AI.

FPGA sangat sesuai untuk AI edge dalam berbagai aplikasi industri, medis, pengujian dan pengukuran, kedirgantaraan, pertahanan, serta otomotif. FPGA dapat diterapkan baik di server AI dan perangkat tertanam untuk mendukung berbagai kasus penggunaan canggih. Menggunakan FPGA dalam desain solusi dapat memberikan beberapa keunggulan yang membantu dalam mendukung kebutuhan data yang beragam di edge, termasuk dukungan kuat untuk protokol I/O, latensi yang rendah, daya yang rendah, serta masa pakai penerapan yang panjang.

Selain itu, FPGA digunakan dalam aplikasi jaringan untuk AI. Untuk mendukung AI, jaringan harus memfasilitasi komunikasi dan transfer data cepat antara perangkat edge, layanan cloud, dan komponen lainnya yang saling berhubungan. Untuk membantu mewujudkannya, FPGA dibekali dengan standar I/O berkecepatan tinggi generasi terbaru dan dapat digunakan untuk mengakselerasi penggunaan jaringan nirkabel dan jaringan berkabel. FPGA juga dapat digunakan dalam mendukung jaringan untuk menambahkan kemampuan yang disempurnakan AI guna mendukung aplikasi yang berkembang seperti deteksi anomali, estimasi saluran nirkabel, dan konvergensi decoder nirkabel.

Sementara itu, lingkungan pusat data dan cloud mulai menerapkan FPGA untuk mengakselerasi database, genomik, dan jaringan serta membantu mengoptimalkan tugas inferensi AI, seperti model bahasa besar, AI percakapan, dan sistem rekomendasi FPGA juga digunakan untuk aplikasi jaringan neural, yang mencakup deteksi anomali, deteksi penipuan keuangan, dan perdagangan berkecepatan tinggi. Dalam lingkungan pusat data berperforma tinggi ini, efisiensi energi FPGA yang tinggi membantu mengurangi biaya pendinginan dan mendukung pengembangan teknologi AI yang lebih hijau.

Manfaat FPGA untuk AI

FPGA menawarkan beberapa manfaat ketika digunakan untuk AI:

 

  • Menambahkan kemampuan baru dengan mudah dan efisien: Dengan menggunakan FPGA, desainer dapat menambahkan kemampuan AI, seperti inspeksi paket yang dalam atau deteksi penipuan keuangan, ke beban kerja yang ada. FPGA juga memungkinkan untuk menambahkan kemampuan keamanan, I/O, jaringan, atau pra-/pascapemrosesan tanpa memerlukan chip tambahan.
  • Dapatkan performa hebat dengan throughput tinggi dan latensi rendah: FPGA secara inheren dapat memberikan latensi rendah dan latensi deterministik untuk aplikasi real-time seperti streaming video, transkripsi, dan pengenalan tindakan dengan langsung memproses video ke FPGA, dengan melewatkan CPU. Desainer dapat membangun jaringan neural dari bawah ke atas dan menyusun FPGA agar sesuai dengan model yang terbaik.
  • Tingkatkan pengembalian investasi melalui fleksibilitas yang melekat: Sirkuit di dalam chip FPGA tidak terukir secara permanen; sirkuit tersebut dapat diprogram ulang sesuai kebutuhan. Hal ini membuatnya menjadi salah satu opsi perangkat keras yang paling hemat biaya yang tersedia. Selain itu, FPGA bukan hanya dapat digunakan untuk keperluan AI. Dengan mengintegrasikan kemampuan tambahan ke chip yang sama, desainer dapat menghemat biaya dan ruang board. FPGA memiliki siklus hidup produk yang panjang, sehingga desain perangkat keras yang berbasis FPGA dapat memiliki masa pakai produk yang panjang, dalam hitungan tahun atau dekade. Karakteristik ini membuatnya ideal untuk digunakan dalam pasar industri, pertahanan, medis, dan otomotif.
  • Konsumsi daya yang lebih rendah: Dengan FPGA, desainer dapat menyempurnakan perangkat keras sesuai dengan aplikasi, sehingga membantu memenuhi kebutuhan efisiensi daya. FPGA juga dapat mengakomodasi beberapa fungsi, yang menghadirkan efisiensi energi yang lebih besar dari chip. Ada kemungkinan untuk menggunakan sebagian FPGA untuk suatu fungsi, alih-alih seluruh chip, yang memungkinkan FPGA untuk menjadi host dari beberapa fungsi secara paralel.
  • Mengoptimalkan I/O: FPGA unggul ketika menangani input data dari beberapa sensor, seperti kamera, LIDAR, dan sensor audio. Kemampuan ini dapat sangat berharga ketika merancang kendaraan otonom, robotika, dan peralatan industri.

Tantangan FPGA

Salah satu dari beberapa rintangan yang harus diatasi ketika menggunakan FPGA adalah bahwa perangkat keras biasanya memerlukan keahlian pemrograman khusus. Untuk mengatasi tantangan ini, model pemrograman FPGA berbasis perangkat lunak digunakan untuk mengurangi jumlah keahlian yang diperlukan. Model pemrograman tingkat yang lebih tinggi ini memungkinkan ilmuwan data atau developer model untuk menciptakan jaringan neural menggunakan kerangka kerja AI umum, seperti TensorFlow atau Caffe, dan menerapkannya pada FPGA tanpa mengetahui detail arsitektur FPGA.

Solusi AI FPGA

FPGA untuk AI digunakan untuk mendukung banyak kasus penggunaan di seluruh industri:

 

  • Ilmu hayati dan kesehatan: Aplikasi yang mencakup pemantauan medis; peralatan diagnostik 2D dengan pengenalan gambar dan deteksi objek, seperti peralatan sinar X dan endoskopi; jenis deteksi patologi lainnya; pengurutan genom; dan robotika bedah.
  • Militer dan kedirgantaraan: Penggunaan mencakup kendaraan udara tanpa awak (UAV), deteksi sasaran, serta klasifikasi dan deteksi radar.
  • Aplikasi industri: FPGA menambahkan deteksi berbasis AI dan kontrol real-time di edge.
  • Aplikasi audiovisual: Misalnya, kamera konferensi video dengan deteksi wajah untuk melakukan panning dan zoom otomatis, serta kamera studio dengan deteksi wajah otomatis untuk pemfokusan yang presisi.
  • Penyiaran video: Penggunaan yang mencakup rentang dinamis standar hingga konversi rentang dinamis tinggi, konversi cerdas antara resolusi video, serta perekaman dan tampilan video dengan frame rate variabel.
  • Aplikasi konsumen: Contohnya adalah tampilan 3D dengan deteksi mata dan pelacakan untuk pencitraan stereo.
  • Aplikasi otomotif: Penggunaan mencakup deteksi objek dalam kendaraan otonom serta kontrol dan kustomisasi sistem infotainment.