Don't Miss
All posts tagged "Groq"
-
科技大突破|模型運算快逾十倍 Groq晶片挑機輝達
聊天機械人背後必須依賴晶片運算。美國人工智能(AI)晶片初創Groq最近聲名大噪,該企主打研發「語言處理單元」(LPU)晶片,當中採用張量流處理器(TPS)架構,克服計算量、記憶體頻寬兩大樽頸,聲稱其大型語言模型(LLM)的推理效能比頂級雲端供應商快18倍,足以挑戰輝達(Nvidia)圖像處理器(GPU)地位。
- Posted February 22, 2024