Don't Miss
晶片大戰|輝達AI超級晶片 料明下半年上市
By 信報財經新聞 on November 21, 2024
原文刊於信報財經新聞「EJ Tech 創科鬥室」
美國晶片巨頭輝達(Nvidia)最近在2024年超級運算大會(SC24),新推一款人工智能(AI)超級晶片組GB200 Grace Blackwell NVL4,在單一主機板配置兩組Blackwell GB200晶片,即擁有4個B200圖形處理器(GPU)及兩個Grace中央處理器(CPU)。輝達正透過富士康的美國、墨西哥及台灣新工廠,以擴大晶片生產規模,目標於2025年下半年上市。
訓練能力提升1.8倍
GB200 Grace Blackwell NVL4可透過NVLink技術連接多達4個GPU,控制更大的1.3TB連貫記憶體。跟上代GH200 NVL4系統相比,新版本晶片組模擬性能提高2.2倍,訓練能力上升1.8倍。不過,系統功耗達到5400瓦,需求實際上是GB200 NVL2型號2700瓦的兩倍,料須配合客製化的液體冷卻系統使用。
另一款硬件產品H200 NVL全面上市,為低功耗風冷數據中心而設,適合絕大多數數據中心。H200 NVL高頻寬記憶體容量提高1.5倍,大型語言模型推理提速1.7倍,高效能運算效能提高1.3倍,頻寬比標準PCIe解決方案快7倍。產品預計12月起由全球夥伴供貨,供應商包括戴爾科技、惠普企業、聯想(00992)、美國超微(SuperMicro)、華碩、技嘉、微星等。