Akselerator AI Intel® Gaudi® 2
Akselerasi performa tinggi untuk GenAI dan LLM.
Akselerator AI Intel® Gaudi® 2
Akselerator AI Intel® Gaudi® 2 Kami Mendorong Peningkatan Performa-Harga Deep Learning
Dan efisiensi operasional untuk pelatihan dan menjalankan model canggih, mulai dari model multi-modal dan bahasa terbesar hingga model NLP dan visi komputer yang lebih mendasar. Dirancang untuk skalabilitas yang efisien—baik di cloud atau di pusat data Anda, akselerator Intel Gaudi 2 memberi industri AI pilihan yang dibutuhkannya—kini lebih dari yang sebelumnya.
Fitur Arsitektur Intel® Gaudi® 2:
Dibuat di atas fondasi desain Intel Gaudi generasi pertama yang terbukti.
- Teknologi proses 7nm
- Komputasi heterogen
- 24 Inti Prosesor Tensor
- Mesin perkalian matriks ganda
- Ethernet 24 100 Gigabit terintegrasi pada chip
- Memori HBM2E 96 GB di board
- SRAM 48 MB
- Kontrol Media Terintegrasi
Akselerator AI Intel® Gaudi® 2 Di Cloud
Temukan performa dan kemudahan penggunaan yang ditawarkan akselerator AI Intel® Gaudi® 2 di Intel Developer Cloud.
Pelajari lebih lanjut
Akselerator AI Intel® Gaudi® 2 Di Pusat Data
Hadirkan keunggulan performa harga ke dalam infrastruktur Anda dengan solusi dari Supermicro dan IEI.
Pelajari lebih lanjut
Akselerator AI Intel® Gaudi® 2 Tetap SATU-SATUNYA Alternatif yang Menjadi Benchmark Nvidia H100 untuk Performa AI Generatif
Berdasarkan benchmark MLPerf Training 3.1 dan Inference 4.0 terbaru, yang masing-masing diterbitkan pada Desember 2023 dan Maret 2024, akselerator Intel Gaudi 2 tetap menjadi satu-satunya alternatif benchmark untuk Nvidia H100.
Selain benchmark industri MLPerf, akselerator AI Intel Gaudi 2 memiliki skor baik pada evaluasi pihak ketiga lainnya.1
Untuk Informasi Lebih Lanjut tentang Akselerator Intel® Gaudi® 2, Lihat Video
Akselerator AI Intel® Gaudi® 2 Mendukung Penskalaan Masif dan Fleksibel
Dengan port Ethernet 24x 100 Gigabit (RoCEv2) yang terintegrasi ke dalam setiap akselerator AI Intel Gaudi 2, pelanggan mendapatkan manfaat dari skalabilitas yang fleksibel dan hemat biaya yang memperbesar performa akselerator AI Intel Gaudi 2 dari satu hingga ribuan akselerator.
Lihat gambar di bawah untuk desain referensi server yang menampilkan akselerator Intel Gaudi 2 8x.
Untuk informasi lebih lanjut tentang membangun skala sistem dengan akselerator AI Intel Gaudi 2, lihat halaman Jaringan kami ›
Bangun Model Baru atau Migrasikan yang Ada secara Mudah di Akselerator AI Intel Gaudi 2
Perangkat lunak Intel Gaudi, yang dioptimalkan untuk performa dan kemudahan platform Intel Gaudi, memberi developer dokumen, alat, konten cara, dan model referensi untuk membantu mereka memulai perangkat lunak Intel Gaudi dengan cepat dan mudah.
Akses dan terapkan dengan mudah lebih dari 500 ribu model dengan Habana Optimum Library di hub Hugging Face.
Untuk informasi lebih lanjut, lihat situs developer kami ›
Sumber daya untuk Akselerator AI Intel Gaudi 2
Informasi Produk dan Performa
Kunjungi https://habana.ai/habana-claims-validation untuk mengetahui beban kerja dan konfigurasi. Hasil mungkin berbeda https://huggingface.co/blog/habana-gaudi-2-benchmark https://huggingface.co/blog/habana-gaudi-2-bloom