Akselerator AI Intel® Gaudi® 2

Akselerasi performa tinggi untuk GenAI dan LLM.

Akselerator AI Intel® Gaudi® 2

Akselerator AI Intel® Gaudi® 2 Kami Mendorong Peningkatan Performa-Harga Deep Learning

Dan efisiensi operasional untuk pelatihan dan menjalankan model canggih, mulai dari model multi-modal dan bahasa terbesar hingga model NLP dan visi komputer yang lebih mendasar. Dirancang untuk skalabilitas yang efisien—baik di cloud atau di pusat data Anda, akselerator Intel Gaudi 2 memberi industri AI pilihan yang dibutuhkannya—kini lebih dari yang sebelumnya.

Fitur Arsitektur Intel® Gaudi® 2:

Dibuat di atas fondasi desain Intel Gaudi generasi pertama yang terbukti.

  • Teknologi proses 7nm
  • Komputasi heterogen
  • 24 Inti Prosesor Tensor
  • Mesin perkalian matriks ganda
  • Ethernet 24 100 Gigabit terintegrasi pada chip
  • Memori HBM2E 96 GB di board
  • SRAM 48 MB
  • Kontrol Media Terintegrasi

Akselerator AI Intel® Gaudi® 2 Tetap SATU-SATUNYA Alternatif yang Menjadi Benchmark Nvidia H100 untuk Performa AI Generatif

Berdasarkan benchmark MLPerf Training 3.1 dan Inference 4.0 terbaru, yang masing-masing diterbitkan pada Desember 2023 dan Maret 2024, akselerator Intel Gaudi 2 tetap menjadi satu-satunya alternatif benchmark untuk Nvidia H100.

Lihat hasilnya ›

Selain benchmark industri MLPerf, akselerator AI Intel Gaudi 2 memiliki skor baik pada evaluasi pihak ketiga lainnya.1

Akselerator AI Intel® Gaudi® 2 Mendukung Penskalaan Masif dan Fleksibel

Dengan port Ethernet 24x 100 Gigabit (RoCEv2) yang terintegrasi ke dalam setiap akselerator AI Intel Gaudi 2, pelanggan mendapatkan manfaat dari skalabilitas yang fleksibel dan hemat biaya yang memperbesar performa akselerator AI Intel Gaudi 2 dari satu hingga ribuan akselerator.

Lihat gambar di bawah untuk desain referensi server yang menampilkan 8x akselerator Intel Gaudi 2.

Untuk informasi lebih lanjut tentang membangun skala sistem dengan akselerator AI Intel Gaudi 2, lihat halaman Jaringan kami ›

Mitra Unggulan

Switch Cisco Nexus 9364D-GX2A memenuhi syarat untuk menghubungkan akselerator Intel Gaudi 2 dalam membangun jaringan skala besar untuk menjalankan inferensi, pelatihan model bahasa besar (large-language model/LLM), atau beban kerja AI generatif serupa.

Bangun Model Baru atau Migrasikan yang Ada secara Mudah di Akselerator AI Intel Gaudi 2

Perangkat lunak Intel Gaudi, yang dioptimalkan untuk performa dan kemudahan platform Intel Gaudi, memberi developer dokumen, alat, konten cara, dan model referensi untuk membantu mereka memulai perangkat lunak Intel Gaudi dengan cepat dan mudah.

Akses dan terapkan dengan mudah lebih dari 500 ribu model dengan Habana Optimum Library di hub Hugging Face.

Untuk informasi lebih lanjut, lihat situs developer kami ›

Sumber daya untuk Akselerator AI Intel® Gaudi® 2

Bandingkan Produk

Informasi Produk dan Kinerja

1

Kunjungi https://habana.ai/habana-claims-validation untuk mengetahui beban kerja dan konfigurasi. Hasil mungkin berbeda https://huggingface.co/blog/habana-gaudi-2-benchmark https://huggingface.co/blog/habana-gaudi-2-bloom