//

2024年4月10日 星期三

英特爾推出新AI晶片!效能比輝達H100快兩倍

 

英特爾推出新AI晶片!效能比輝達H100快兩倍


英特爾(Intel)於美國時間4月8日至9日舉行Intel Vision 2024大會,執行長季辛格(Pat Gelsinger)推出了其最新的AI晶片Gaudi 3,效能是競爭對手輝達(Nvidia)旗下H100 GPU的2倍多,且運算速度也快了1.5倍。

與前一代產品相比,Gaudi 3在BF16(Brain Float 16,一種AI運算效能的計算方式)運算效能提升近4倍、記憶體頻寬提升1.5倍且網路頻寬也提升2倍,可擴充大規模系統,將有助大型語言模型(LLM)和多模態模型的AI訓練和推理,大幅提升效能和生產力。

英特爾表示,已經在開源 Llama 和阿布達比支援的Falcon等模型上測試了Gaudi 3晶片,可以有效的訓練或部署大型的AI模型,包括圖文生成的Stable Diffusion和OpenAI的Whisper語音辨識模型等等。

除此之外,Gaudi 3將由5奈米製程打造,晶片整體包含10個主要模組,包含2個運算模組和8個記憶體堆疊(HBM 模組),據傳台積電(2330)、世芯-KY(3661)等台廠都將受惠,預計Gaudi 3將於本季提供給包含戴爾(DELL)、慧與科技(HPE)、聯想(Leveno)和美超微(SMCI)等知名OEM。

▼季辛格在Intel Vision 2024大會推出了其最新的AI晶片Gaudi 3。(圖/翻攝自Intel Vision 2024大會影片)

英特爾Xeon副總裁Das Kamhout則表示,隨著AI市場不斷發展,即便輝達目前處於龍頭地位,但其他競爭對手仍有發展空間,且輝達生產的GPU成本相對昂貴,客戶從效能、成本等方面考量,Intel此次推出的Gaudi 3有望與輝達旗下的AI晶片競爭。

雖然此次英特爾並未公布Gaudi 3的價格,但從言論中可推論,Gaudi 3價格將有望比輝達日前推出的B100 和 B200 GPU便宜。

(封面圖/翻攝自Intel Vision 2024大會影片)

沒有留言:

張貼留言

熱門文章