Don't Miss
AMD發布新晶片撼輝達
By 信報財經新聞 on June 15, 2023
原文刊於信報財經新聞「StartupBeat創科鬥室」

全球追捧生成式人工智能(Generative AI),美國晶片廠商輝達(Nvidia)產品炙手可熱,結果惹來競爭對手超微半導體(AMD)挑戰。AMD在日前舉辦的資料中心與人工智能技術發表會,向外界預告多項AI發展策略,最受關注的是AI晶片Instinct MI300X。
可負載大型語言模型訓練
根據AMD官網介紹,Instinct MI300X建基於下一代AMD CDNA 3加速器架構,支援最高192GB HBM3記憶體,比輝達旗下同類產品Hopper H100的80GB高逾倍,藉以為大型語言模型(LLMs)訓練及生成式AI工作負載,提供運算力及記憶體效率。簡單而言,單一MI300X已足夠處理參數達400億個的大型AI模型,例如Falcon-40。
台灣《科技新報》更指出,超微半導體行政總裁蘇姿丰(Lisa Su)【圖】於發表會即場示範,利用MI300X執行Hugging Face AI模型,以寫出一首有關美國三藩市的詩,顯示單一MI300X足可運行參數量達800億個的大模型。


支持EJ Tech

