Don't Miss
Amazon新晶片|全新AI晶片 Apple試用成本省半
By 信報財經新聞 on December 5, 2024
原文刊於信報財經新聞「EJ Tech 創科鬥室」
亞馬遜(Amazon)雲端運算部門AWS周二(3日)在美國舉行年度峰會AWS re:Invent 2024,除了推出首款大型語言模型(LLM)Nova,亦全面推出應用於訓練大型語言模型的晶片Trainium2,將部署在旗下EC2 Trn2 UltraServers。
目錄
資料顯示,單組伺服器內建16顆Trainium2晶片,提供20.8 PetaFLOPS運算效能;若結合4組伺服器同時運作,64顆Trainium2晶片的運算峰值,有望高達83.2 PetaFLOPS。
蘋果公司(Apple)機器學習及人工智能高級總監杜賓(Benoit Dupin)昨在峰會上透露,正測試Trainium2晶片,預計可節省約50%成本。另一方面,亞馬遜計劃2025年在美國建設Project Rainier集群,包含數十萬顆Trainium2晶片,由美國AI初創Anthropic首先使用;同時預告在2025年底,交付新一代AI訓練晶片Trainium3,其運算速度再提高4倍。
英特爾下周發售新顯示卡
針對中低階消費者市場,英特爾(Intel)周二亦發表Arc B系列顯示卡(代號Battlemage),其圖像處理器(GPU)具備XeSS 2 AI功能。據報售價249美元(約1942港元)的英特爾Arc B580,比輝達(Nvidia)的RTX 4060平均快一成。新產品下周五(13日)起發售,讓用戶在本機的桌面電腦執行生成式AI工作,例如文本生成圖像、照片編輯及聊天機械人。