Intel tvrdi da je njegov Gaudi 3 AI akcelerator bolji nego Nvidia H100

Kao i svaki AI akcelerator, i novi Intel čip Gaudi 3 dizajniran je da ubrza AI radna opterećenja, u ovom slučaju na nivou preduzeća, a kompanija samouvereno tvrdi da je njegov čip brži od aktuelnog standarda u industriji – Nvidia H100 grafičkog procesora.

Ipak, teško je tek tako poverovati u reči ove kompanije, posebno kada u obzir uzmemo probleme sa kojima se ona bori poslednjih nekoliko godina, a doveli su i do pada kvaliteta u njenim proizvodima, koji su nekada bili broj jedan u svetu.

U svakom slučaju, Intel Gaudi 3 koristi istu arhitekturu i principe kao Gaudi 2, ali zasnovan je na TSMC 5 nm proizvodnom proces, za razliku od TSMC 7 nm koji je korišćen za Gaudi 2, što ga čini efikasnijim.

Intel

Gaudi 3 AI akcelerator ima do 128 GB HBM2e sa 3,7 TB/s propusnog opsega i TDP od 900 W. Intel je prikazao rezultate upoređivanja Gaudi 3 sa vodećim proizvođačem grafičkih procesora na tržištu, kompanijom Nvidia i njenim dominantnim H100 GPU-om, pokrećući pritom različite velike jezičke modele kao što su LLAMA2-7B, LLAMA2-13B i GPT 3-175B. Gaudi 3 je, kako Intel tvrdi i do 1,7 puta brži nego H100.

Ne samo u brzini, Intel ide korak dalje i ističe da je njegov čip i 2,3 puta energetski efikasniji nego Nvidia H100, ali to će tek u praksi moći i da potvrdi. Inače, kompanija je već poslala svoje Gaudi 3 čipove sa vazdušnim hlađenjem na probu partnerima, dok će opšta dostupnost čipa uslediti u trećem kvartalu ove godine, dok će modeli sa tečnim hlađenjem stići u poslednjem godišnjem kvartalu.