You are currently at: ejtech.hkej.com
Skip This Ads
Don't Miss

Amazon新晶片|全新AI晶片 Apple試用成本省半

By on December 5, 2024

原文刊於信報財經新聞「EJ Tech 創科鬥室

亞馬遜(Amazon)雲端運算部門AWS周二(3日)在美國舉行年度峰會AWS re:Invent 2024,除了推出首款大型語言模型(LLM)Nova,亦全面推出應用於訓練大型語言模型的晶片Trainium2,將部署在旗下EC2 Trn2 UltraServers。

英特爾周二發表Arc B系列顯示卡,適合在本機運行生成式AI。(英特爾網上圖片)

資料顯示,單組伺服器內建16顆Trainium2晶片,提供20.8 PetaFLOPS運算效能;若結合4組伺服器同時運作,64顆Trainium2晶片的運算峰值,有望高達83.2 PetaFLOPS。

結合4組伺服器同時運作,64顆Trainium2晶片的運算峰值,有望高達83.2 PetaFLOPS。(YouiTube影片擷圖)

蘋果公司(Apple)機器學習及人工智能高級總監杜賓(Benoit Dupin)昨在峰會上透露,正測試Trainium2晶片,預計可節省約50%成本。另一方面,亞馬遜計劃2025年在美國建設Project Rainier集群,包含數十萬顆Trainium2晶片,由美國AI初創Anthropic首先使用;同時預告在2025年底,交付新一代AI訓練晶片Trainium3,其運算速度再提高4倍。

亞馬遜AWS全面推出AI晶片Trainium2,蘋果為旗下客戶之一。(YouiTube影片擷圖)

英特爾下周發售新顯示卡

針對中低階消費者市場,英特爾(Intel)周二亦發表Arc B系列顯示卡(代號Battlemage),其圖像處理器(GPU)具備XeSS 2 AI功能。據報售價249美元(約1942港元)的英特爾Arc B580,比輝達(Nvidia)的RTX 4060平均快一成。新產品下周五(13日)起發售,讓用戶在本機的桌面電腦執行生成式AI工作,例如文本生成圖像、照片編輯及聊天機械人。

支持EJ Tech

如欲投稿、報料,發布新聞稿或採訪通知,按這裏聯絡我們