英特爾推出新AI晶片！效能比輝達H100快兩倍
英特爾（Intel）於美國時間4月8日至9日舉行Intel Vision 2024大會，執行長季辛格（Pat Gelsinger）推出了其最新的AI晶片Gaudi 3，效能是競爭對手輝達（Nvidia）旗下H100 GPU的2倍多，且運算速度也快了1.5倍。
與前一代產品相比，Gaudi 3在BF16（Brain Float 16，一種AI運算效能的計算方式）運算效能提升近4倍、記憶體頻寬提升1.5倍且網路頻寬也提升2倍，可擴充大規模系統，將有助大型語言模型（LLM）和多模態模型的AI訓練和推理，大幅提升效能和生產力。
英特爾表示，已經在開源 Llama 和阿布達比支援的Falcon等模型上測試了Gaudi 3晶片，可以有效的訓練或部署大型的AI模型，包括圖文生成的Stable Diffusion和OpenAI的Whisper語音辨識模型等等。
除此之外，Gaudi 3將由5奈米製程打造，晶片整體包含10個主要模組，包含2個運算模組和8個記憶體堆疊（HBM 模組），據傳台積電（2330）、世芯-KY（3661）等台廠都將受惠，預計Gaudi 3將於本季提供給包含戴爾（DELL）、慧與科技（HPE）、聯想（Leveno）和美超微（SMCI）等知名OEM。
▼季辛格在Intel Vision 2024大會推出了其最新的AI晶片Gaudi 3。（圖／翻攝自Intel Vision 2024大會影片）
英特爾Xeon副總裁Das Kamhout則表示，隨著AI市場不斷發展，即便輝達目前處於龍頭地位，但其他競爭對手仍有發展空間，且輝達生產的GPU成本相對昂貴，客戶從效能、成本等方面考量，Intel此次推出的Gaudi 3有望與輝達旗下的AI晶片競爭。
雖然此次英特爾並未公布Gaudi 3的價格，但從言論中可推論，Gaudi 3價格將有望比輝達日前推出的B100 和 B200 GPU便宜。
（封面圖／翻攝自Intel Vision 2024大會影片）
沒有留言:
張貼留言