Intel Siapkan Prosesor AI Terbaru Gaudi 3 dengan Performa Lebih Baik

Neli Rahmawati

Neli Rahmawati

Intel mengumumkan peluncuran prosesor AI terbarunya yang diberi nama Gaudi 3 dan diperkirakan performanya lebih baik daripada Nvidia H100.

Intel memperlihatkan inovasi prosesor terbarunya dalam bidang AI, bernama Gaudi 3, yang konon memiliki kinerja 50% lebih baik daripada Nvidia H100.

Gaudi 3 dipresentasikan di konferensi Vision 2024 yang diadakan di Phoenix, Arizona, Amerika Serikat. Sebelumnya, Gaudi 3 sudah terungkapkan dalam acara Intel AI Everywhere pada bulan Desember 2023.

Pada saat itu, Pat Gelsinger, CEO Intel, menyatakan bahwa Gaudi 3 akan menjadi pesaing yang tangguh bagi chip AI Nvidia dan AMD. Gaudi 3 adalah versi terbaru dari Gaudi 2, yang terdiri dari dua chip TSMC 5nm dan memiliki 64 core Tensor generasi ke-5.

Menurut informasi dari Techspot pada Kamis (11/4/2024), kapasitas memori HBM2e mencapai 128GB dengan kecepatan 3,7Gbps dan bandwidth sebesar 3,7 TB per detik.

Baca Juga: Qualcomm Akan Meluncurkan Snapdragon X Plus untuk Laptop Windows

Spesifikasi Prosesor Gaudi 3

Intel Siapkan Prosesor AI Terbaru Gaudi 3 dengan Performa Lebih Baik

Peningkatan pada prosesor Gaudi 3 jauh lebih besar daripada dengan Gaudi 2. Pada generasi sebelumnya, Gaudi 2 hanya memiliki 24 core Tensor, memori HBM2e sebesar 96GB dengan kecepatan 3,27Gbps, dan bandwidth sebesar 2,45TB per detik. Gaudi 3 juga hadir dalam varian SRAM dengan kapasitas 96GB dan bandwidth sebesar 12,8TB per detik.

BACA JUGA:  Biaya Untuk Mengganti Pasta Laptop dan Caranya Menggantinya!

Salah satu spesifikasi penting lainnya adalah VRAM dengan kapasitas 128GB. Kemampuan komputasinya mencapai 1,835 TFLOPS di FP8 dan BF16 matrix. Selain itu, konsumsi dayanya mencapai 900 watt. Dalam perbandingan, Gaudi 2 memiliki VRAM sebesar 96GB, kemampuan komputasi sebesar 835 TFLOPS di FP8 Matrix, 432 TFLOPS di BF16 Matrix, dan konsumsi dayanya hanya 600W.

Selain itu, prosesor Gaudi 3 juga memiliki 24 port Ethernet 200Gb yang memberikan fleksibilitas lebih dan mendukung standar jaringan terbuka. Selain itu, Gaudi 3 juga menyediakan dukungan PCIe untuk berbagai kebutuhan, termasuk retrieval-augmented generation (RAG).

Baca Juga: Apa itu Prosesor, Fungsi, Macam-Macam dan Cara Kerja

Performa Gaudi 3 Lebih Cepat

Intel mengklaim bahwa prosesor Gaudi 3 memiliki kemampuan komputasi AI yang 4 kali lebih cepat dalam penggunaan BF16, meningkatkan bandwidth memori sebesar 1,5 kali, dan meningkatkan bandwidth jaringan dua kali lipat daripada versi sebelumnya. Hal ini membuat Gaudi 3 sangat cocok untuk melatih generative AI (GenAI).

BACA JUGA:  Soal Mac, Apple Akan Selingkuhi Intel dengan Prosesor dari AMD!

Dalam perbandingan dengan Nvidia H100, Intel mengklaim bahwa chip AI terbaru mereka memiliki kecepatan yang 50% lebih tinggi saat tergunakan untuk komputasi Llama2 7B dan 13B, serta untuk model parameter GPT-3 175B. Tidak hanya lebih cepat, tetapi konsumsi dayanya juga 40% lebih efisien dalam parameter yang sama.

Pada saat ini, sampel chip Gaudi 3 sedang dikirimkan kepada mitra Intel. Produksi massalnya dijadwalkan akan dimulai pada paruh kedua tahun ini. Prosesor Gaudi 3 yang memiliki pendingin udara akan mulai dikirimkan pada kuartal ketiga tahun 2024. Sementara varian dengan pendingin air baru akan tersedia pada kuartal keempat tahun 2024.

Baca Juga: 6 Kelebihan dan Kekurangan Quad Core Prosesor

Chipset IntelGaudi 3Prosesor

Related Posts