Apa Itu AI Edge

Kemampuan inovatif di edge, yang difasilitasi oleh kemajuan dalam performa dan efisiensi komputasi, menyatukan dunia fisik dan digital. AI edge, yang membawa AI ke perangkat dan sensor lokal, memungkinkan analisis data dan tindakan yang cepat menjadi independen dari cloud atau pusat data. Hal ini membuka responsivitas dan wawasan yang mendekati real-time, peningkatan efisiensi, pengurangan biaya operasional, dan kemampuan untuk menghadirkan jenis pengalaman pelanggan baru.

Peran AI di Edge

Baik tujuan akhirnya adalah mengotomatiskan alur kerja pencitraan medis untuk mengakselerasi diagnosis atau meningkatkan efisiensi operasional di pabrik fabrikasi logam, peran AI di edge adalah sama—untuk memanfaatkan data guna mengambil tindakan lebih cepat. Dalam bidang AI, ini dapat dicapai melalui tugas yang dikenal sebagai inferensi.

Selama inferensi, data input langsung dimasukkan ke dalam model AI yang sebelumnya telah dilatih untuk melaksanakan fungsi seperti membuat keputusan, mengirim peringatan, memberikan wawasan, atau menyelesaikan tugas seperti menyortir gambar.

AI edge sering menggunakan perangkat Internet of Things (IoT), termasuk kamera, sumber data, dan sensor, untuk mengumpulkan dan menganalisis data di dunia nyata. Katakanlah perusahaan energi atau utilitas ingin menjaga menara, pipa, atau jaringan listrik mereka aman dari orang jahat. Video keamanan dan data sensor dapat diproses di edge, yang secara otomatis memperingatkan operator tentang ancaman secara mendekati real-time. Dengan kemampuan untuk mengumpulkan dan memproses data hampir secara instan, AI edge sangat memperluas kemampuan organisasi, yang memungkinkan berbagai aplikasi dan pengalaman berbasis AI di edge. Dari chatbot yang berjalan di kios bank, mobil dengan bantuan jalur otomatis dan kemampuan menghindari tabrakan, hingga peringatan bahaya keselamatan atau insiden di jalan kota atau lantai pabrik secara mendekati real-time, kasus penggunaan untuk AI edge di seluruh industri bersifat cukup luas.

AI Edge vs. AI Tradisional

Secara tradisional, AI utamanya berbasis cloud, dengan data dikirim ke pusat data, di mana AI diproses dan dikembalikan setelah dianalisis. Model infrastruktur komputasi yang berorientasi pada cloud tersebut tidak ideal untuk proses dan operasi perusahaan yang sensitif waktu.

Banyak kasus penggunaan inferensi perusahaan mendapat manfaat dari data yang dianalisis dengan sangat cepat. Mereka sering memerlukan pemrosesan data real-time dan memiliki persyaratan latensi yang ketat. Cukup sering, mereka perlu diimplementasikan di lokasi dengan konektivitas yang buruk, sehingga rentan terhadap keterlambatan dan kesalahan dari kehilangan paket data selama transmisi ke dan dari cloud.

Untuk mengatasi kebutuhan dan tantangan ini, AI edge melakukan analisis data di sumber data, seperti lantai pabrik, rumah sakit, atau toko. Algoritma diterapkan di tempat, di mana data diproses baik di hub pusat atau secara langsung pada perangkat edge dengan prosesor bawaan.

AI Edge Hibrida

Dua pendekatan ini, AI edge dan AI cloud, tidak bersifat saling eksklusif. Seiring kemajuan AI di edge, pendekatan edge hibrida yang mendistribusikan beban kerja inferensi antara edge dan cloud diharapkan akan diadopsi secara luas. Idenya adalah bahwa wawasan yang ringan dan mendekati real-time di edge dapat diperkuat oleh konteks yang lebih dalam di cloud.

Dengan menggabungkan kecepatan dan efisiensi edge dengan sumber daya berbasis cloud yang dapat diskalakan, edge hibrida akan memfasilitasi aplikasi mutakhir dengan lingkungan penerapan serta tuntutan performa yang beragam. Pendekatan hibrida juga akan memungkinkan perusahaan untuk mengumpulkan input dari beberapa model ke dalam proses mereka.

Meskipun AI edge sering dikaitkan dengan visi komputer, lanskap AI edge berkembang pesat untuk mencakup aplikasi multimodel yang melibatkan AI generatif (GenAI), bahasa alami (teks ke ucapan, chatbot), dan robotika. Kasus penggunaan yang muncul ini diharapkan dapat merevolusi industri. Dalam dunia manufaktur, perangkat lunak yang didorong oleh AI generatif dapat memfasilitasi rantai pasokan yang tangkas dan dinamis, sementara kendaraan otonom serta infrastruktur cerdas dapat membantu kota pintar mengurangi tekanan pada lingkungan dan mengoptimalkan arus lalu lintas.

Manfaat AI Edge

AI Edge dapat membantu perusahaan mengatasi sejumlah tantangan kompleks untuk memecahkan masalah dunia nyata. Beberapa manfaat membawa AI ke edge meliputi:

• Kecepatan dan efisiensi operasional: Penting untuk inovasi, otomatisasi berbasis AI di edge memungkinkan operasi otonom mendekati real-time, sehingga menghilangkan penundaan yang terkait dengan pemrosesan berbasis cloud. Latensi dan kemacetan jaringan diminimalkan, sehingga meningkatkan kecepatan transfer data.
• Efektivitas biaya: Volume data yang meningkat dari sensor serta perangkat membuat komputasi edge lebih hemat biaya dibandingkan mengirim data ke cloud dan kembali. Lebih sedikit bandwidth yang dikonsumsi, dan lebih sedikit sumber daya berbasis cloud yang diperlukan, yang membantu mengurangi biaya operasional.
• Konservasi energi: Perangkat AI edge yang hemat energi dirancang untuk memfasilitasi komputasi berdaya rendah dan dapat secara signifikan lebih efisien dibandingkan pemrosesan berbasis cloud. Sementara itu, perangkat keras jaringan seperti router dan switch mengonsumsi lebih sedikit daya, karena lalu lintas ke dan dari pusat data diminimalkan.
• Keamanan dan kedaulatan data: Menjaga data sensitif tetap di edge membantu mengurangi risiko keamanan dan privasi dengan memastikan kontrol lokal, otonomi, serta kepatuhan terhadap peraturan.

Pertimbangan AI Edge

Menghadirkan AI ke lingkungan edge menghadirkan tantangan baru jika dibandingkan dengan menjalankan AI di cloud publik atau privat, termasuk:

• Menambahkan AI ke investasi yang ada: Banyak lingkungan edge memiliki infrastruktur lama yang memiliki fungsi tetap dengan berbagai peralatan dan perangkat lunak eksklusif. Teknologi eksklusif dengan format yang tidak kompatibel dapat menghadirkan tantangan teknis ketika mengintegrasikannya dengan solusi edge.
• Model pelatihan dan penyempurnaan: Model AI edge bersifat unik dan harus disetel untuk industri atau kasus penggunaan yang spesifik. Pengetahuan domain manusia sering kali penting dalam kasus ini. Perusahaan membutuhkan alat sederhana yang membantu pakar ilmuwan data nonprofesional untuk mengubah keahlian mereka menjadi kemampuan AI.
• Mengatasi keragaman perangkat keras: Aplikasi edge-native kemungkinan akan menghadirkan banyak node, sistem operasi, protokol konektivitas, kebutuhan komputasi dan penyimpanan, kendala energi dan biaya, serta masalah kepatuhan. Pengembang memerlukan cara untuk menghadapi kompleksitas ini dan mendukung lingkungan komputasi yang heterogen serta terdistribusi.
• Mengamankan dan mengelola aplikasi terdistribusi: Perusahaan menghadapi tantangan baru karena mereka berusaha untuk mendukung AI di edge tingkat lanjut. Kemudahan pengelolaan adalah hal penting untuk menerapkan AI dalam skala besar, dan keamanan adalah kebutuhan di setiap langkah di sepanjang perjalanannya.
• Merencanakan kondisi yang keras atau terkendala: Lingkungan edge memberikan berbagai jenis tekanan terhadap perangkat keras AI, seperti panas, kelembapan, atau getaran. Solusi AI edge untuk kasus penggunaan seperti pemantauan lalu lintas atau jaminan kualitas sering kali perlu ditempatkan di area dengan ruang fisik yang kecil. Mewujudkan semuanya dengan penggunaan daya yang rendah juga penting untuk mengendalikan biaya dan mempromosikan keberlanjutan.

Solusi AI Edge

Cara memodernisasi operasi bisnis dengan teknologi AI edge adalah topik yang mendalam dan memiliki banyak dimensi. Beberapa organisasi, seperti di bidang manufaktur dan industri, akan ingin menambahkan teknologi edge dan “kecerdasan” ke peralatan operasional lama saat organisasi tersebut berkembang menjadi perusahaan digital yang menggunakan data mendekati real-time untuk menghadirkan nilai. Lainnya, seperti industri keuangan dan layanan kesehatan, memiliki operasi besar serta berpusat pada data yang terlalu luas atau beragam yang menyulitkan pemantauan dan analisis manusia. Organisasi ini bergerak menuju digitalisasi serta mengotomatiskan proses data mereka untuk mengungkap pola dan wawasan dengan lebih cepat serta untuk meningkatkan efisiensi, kepatuhan, dan keamanan data.

Terlepas dari tantangan mana yang sedang dicoba untuk diatasi oleh organisasi, melaksanakan pengaktifan AI secara bertahap adalah hal yang disarankan. Meskipun kasus penggunaan yang paling canggih dan luas akan memerlukan tumpukan teknologi AI dari teknologi edge-ke-cloud, tetapi memulai dengan AI edge dapat dilakukan tanpa investasi infrastruktur yang besar. Bisnis dengan lingkungan edge yang ada saat ini kemungkinan akan siap untuk memulai dengan AI sekarang ini juga. Sumber daya komputasi edge yang ada—seperti sistem point of sale (POS), PC industri, dan server lokal di kantor layanan kesehatan—dapat mendukung banyak beban kerja AI, termasuk visi komputer.

Pertimbangan Integrasi

Tantangan utama untuk menerapkan solusi AI edge adalah mengatasi kompleksitas yang terlibat dalam mengoordinasikan berbagai bagian yang membentuk solusi, termasuk infrastruktur komputasi, perangkat IoT, dan peralatan lama. Platform teknologi terpadu dapat membantu mengurangi kompleksitas ini dan mempromosikan interoperabilitas di antara beberapa lingkungan AI serta standardisasi di seluruh infrastruktur heterogen, yang dapat menciptakan fabrik terpadu mulai dari edge hingga cloud.

Pertimbangan Perangkat Keras

Baik itu melatih model di cloud, menyempurnakannya, atau menerapkannya di edge, memilih perangkat keras AI yang tepat dapat membantu bisnis menyesuaikan investasi mereka dan mendukung persyaratan performa.
Prosesor AI mendukung seluruh alur AI—mulai dari pelatihan model yang sangat kompleks hingga kebutuhan AI yang lebih sederhana, termasuk menggabungkan AI dalam perangkat pengguna akhir.

• Unit pemrosesan pusat (CPU) dengan mesin akselerator bawaan dapat membantu mendukung banyak beban kerja AI edge tingkat lanjut tanpa memerlukan perangkat keras khusus.
• Solusi GPU dapat membantu mendukung beban kerja yang paling berat di pusat data, di edge, atau di perangkat pengguna akhir.
• FPGA sering digunakan sebagai akselerator AI dan prosesor AI untuk membantu mendukung beban kerja AI mulai dari edge hingga cloud. Dibandingkan dengan CPU dan GPU, FPGA bersifat lebih serbaguna dan dapat dikonfigurasi ulang agar sesuai dengan berbagai kasus penggunaan. FPGA menawarkan kombinasi kecepatan, kemampuan pemrograman, dan fleksibilitas untuk menghadirkan performa tanpa biaya serta kompleksitas dari pengembangan chip kustom.

Memilih Pendekatan Adopsi

Organisasi yang ingin memperluas aplikasi AI ke edge umumnya jatuh ke dalam tiga kategori: mereka yang ingin membeli solusi atau aplikasi AI bertujuan khusus, mereka yang ingin membangun aplikasi AI mereka sendiri, dan mereka yang ingin mencapai tujuan AI mereka melalui beberapa kombinasi dari dua pendekatan tersebut.

Membangun solusi AI: Bagi mereka yang ingin membangun solusi AI edge mereka sendiri dari awal, maka platform perangkat lunak edge-native yang agnostik-vendor dapat membantu membangun, menerapkan, dan melakukan iterasi pada alur kerja AI serta menampilkan dukungan protokol dan interoperabilitas terluas. Platform edge-native pascapenerapan juga memudahkan untuk mengelola dan memperbarui perangkat lunak AI di semua lingkungan edge yang terdistribusi.

Ketika menyeleksi platform, penting untuk mencari:

• Dukungan untuk lingkungan komputasi heterogen yang sering ditemukan di seluruh edge
• Standar terbuka untuk membantu upaya AI dalam mengantisipasi kebutuhan masa depan
• Opsi pengembangan pro-code dan low-code
• Kemampuan untuk mengimpor aplikasi yang ada
• Dasbor telemetri terintegrasi yang dapat membantu menentukan ukuran perangkat keras dengan tepat dan mengoptimalkan aplikasi
• Kemampuan keamanan terintegrasi
• Fitur penskalaan otomatis dan kontainerisasi seperti cloud

Membeli solusi AI siap pakai: Organisasi perusahaan juga dapat membeli solusi AI dari penyedia solusi atau integrator sistem. Vendor ini memberikan sistem perangkat keras dan perangkat lunak terintegrasi yang disesuaikan dengan kasus penggunaan serta kebutuhan industri yang spesifik. Penting untuk memilih solusi yang siap pasar dan memiliki kemampuan AI dengan fitur interoperabilitas serta rekam jejak yang terbukti dalam penerapan industri dan spesifik domain yang sukses.

Mengambil pendekatan gabungan: Banyak organisasi menemukan bahwa menggabungkan upaya pengembangan mereka sendiri dengan komponen yang telah dibangun sebelumnya bisa jadi merupakan cara yang paling efisien untuk mencapai kesuksesan AI. Berbagai tutorial dan sumber daya yang menunjukkan kasus penggunaan AI edge tersedia dan dapat membantu mempercepat waktu untuk menghasilkan nilai serta menyederhanakan pengembangan. Selain itu, ada berbagai sumber daya perangkat lunak yang dapat membantu memudahkan beban pengembangan, termasuk kerangka kerja, kit peralatan, alat pengembangan spesifik industri, arsitektur referensi, dan implementasi referensi.