AI風險|Meta停止開發 高風險AI系統
原文刊於信報財經新聞「EJ Tech 創科鬥室」
外界一直擔心人工智能(AI)技術發展太快,有天會超出人類控制。Facebook母企Meta發表新一份政策文件Frontier AI Framework(前沿人工智能框架),預告將停止開發風險過高的AI系統。
根據Meta定義,有兩種AI系統風險過高,分別是「高風險」及「關鍵風險」系統,兩者都能被用於網絡安全、化學及生物攻擊,不同之處在於後者或導致「災難性」後果。
Anthropic研分類器打擊「越獄」
此外,針對以破解手段令AI模型輸出被禁內容,Claude模型製造商Anthropic開發一套新憲法分類器系統,聲稱足以過濾掉絕大多數「越獄」行為,據傳系統已承受超過3000小時攻擊。自去年8月以來,Anthropic一直透過HackerOne漏洞賞金計劃,向任何能設計出「通用越獄」人士提供1.5萬美元(約11.7萬港元)獎金。
支持EJ Tech


Related Posts
Latest News
-
宮崎駿哲學與AI工具(黃岳永)
近日ChatGPT推出了全新的人工智能(AI)生成圖片功能,可以把照片和影像「吉卜力風格化」。該功能被宣稱是「迄今最先進的圖像生成器」。短短幾小時內,網上便充斥吉卜力風格的迷因(Meme)圖片,還有#GhibliStyle和#AIGhibli專屬標記。
- Posted April 8, 2025
- 0
-
AI趨勢|OpenAI免費AI網課 電郵領英註冊任睇
為了將人工智能(AI)融入生活、工作及社區中,ChatGPT開發商OpenAI推出網上學習平台OpenAI Academy。
- Posted April 8, 2025
- 0
-
本地創科動態|微軟夥數碼港助初創AI應用
數碼港科技網絡(CTN)夥伴微軟(Microsoft)香港與數碼港宣布,共同推出人工智能合作計劃。項目為本港初創企業而設,提供方案支援、一對一技術專家指導,以及商業配對等安排。
- Posted April 8, 2025
- 0
-
AI趨勢|Midjourney新模型繪圖更細膩
美國人工智能(AI)繪圖網站Midjourney近日推出圖像生成新模型V7,現時以Alpha版本供用戶使用。V7預設啟用個人化功能,用戶須挑選至少200張圖像加以訓練,以建立自家的美學檔案。
- Posted April 8, 2025
- 0
-
本地創科動態|科企獲補貼1.4億建醫藥生產線
創新科技署昨天宣布,「創新及科技基金」旗下「新型工業評審委員會」,已支持一宗由亞洲先進同位素技術有限公司提交的「新型工業加速計劃」申請,項目計劃建立醫療用超導迴旋加速器及核素藥物生產線。
- Posted April 8, 2025
- 0
-
MoE模型
「混合專家」(Mixture of Experts)模型,是一種機器學習架構,特別是在深度學習領域廣泛應用。通過把任務分解給多個專門的子模型(稱為專家),以提高模型的效率和性能,再由一個「門控網絡」(Gating Network),決定每個輸入應該由哪個專家處理。
- Posted April 8, 2025
- 0
-
AI大戰|Meta Llama 4兩多模態模型面世
Facebook母公司Meta發表新一代多模態模型Llama 4系列,首批兩款模型包括Llama 4 Scout及Llama 4 Maverick,除可從Llama網站及人工智能(AI)開發平台Hugging Face下載,亦已導入WhatsApp、Messenger、Instagram Direct及網頁版的Meta AI助理。
- Posted April 8, 2025
- 0