微軟被爆自研AI晶片降成本
原文刊於信報財經新聞「StartupBeat創科鬥室」
人工智能（AI）必須使用龐大運算力，加拿大永續數碼基礎設施公司QScale估計，聊天機械人ChatGPT開發商OpenAI一個月的用電量，足夠17.5萬個丹麥家庭全年使用。外媒The Information提到，微軟（Microsoft）正開發自家的AI晶片（代號為Athena），為聊天機械人背後技術提供支持，進一步降低機器學習的成本。
與OpenAI聯手測試
報道引述兩位知情人士指出，微軟早於2019年已投資開發Athena晶片。消息指出，部分微軟及OpenAI員工正聯手測試，期望該晶片的性能勝過從外購買，可節省更多金錢。微軟在網誌提到，為OpenAI開發的超級電腦，就使用了28.5萬個中央處理器（CPU），以及一萬個圖像處理器（GPU）。
美國晶片商輝達（Nvidia）上月發文稱，Meta Platforms、OpenAI及Stable Diffusion的開發商Stability AI，以至微軟旗下雲業務Azure，都有採用H100晶片或虛擬機器，藉此訓練及運行AI模型。若查看電商平台eBay資料，網購一張輝達H100圖像顯示卡，炒價已突破35萬港元。
外媒CNBC分析指出，若微軟全面開放Bing搜尋引擎，要做到一秒鐘內回應用戶提問，將需要兩萬台8-GPU伺服器，基建支出或高達40億美元（約312億港元）。自ChatGPT取得成功，微軟正加速部署應用場景，將之整合到Microsoft 365 Copilot，以至Windows 11作業系統上。
GPT-4打入醫療領域
另一方面，生成式人工智能技術亦可減輕醫院人手壓力。微軟周一（17日）宣布與美國醫療保健軟件公司Epic Systems合作，將OpenAI的GPT-4 AI語言模型，引進至加州大學聖迭戈分校、威斯康星大學等多間大學健康中心，方便醫護自動起草對患者的回覆。AI亦可結合電子健康紀錄（EHR），配合數據分析加快診斷，騰出時間用於臨床上。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
