AI風險|Meta停止開發 高風險AI系統
原文刊於信報財經新聞「EJ Tech 創科鬥室」
外界一直擔心人工智能(AI)技術發展太快,有天會超出人類控制。Facebook母企Meta發表新一份政策文件Frontier AI Framework(前沿人工智能框架),預告將停止開發風險過高的AI系統。
根據Meta定義,有兩種AI系統風險過高,分別是「高風險」及「關鍵風險」系統,兩者都能被用於網絡安全、化學及生物攻擊,不同之處在於後者或導致「災難性」後果。
Anthropic研分類器打擊「越獄」
此外,針對以破解手段令AI模型輸出被禁內容,Claude模型製造商Anthropic開發一套新憲法分類器系統,聲稱足以過濾掉絕大多數「越獄」行為,據傳系統已承受超過3000小時攻擊。自去年8月以來,Anthropic一直透過HackerOne漏洞賞金計劃,向任何能設計出「通用越獄」人士提供1.5萬美元(約11.7萬港元)獎金。
支持EJ Tech


Related Posts
Latest News
-
筍工已過時?|AI職稱又多又亂 搵工者「𢱑頭」 熱潮上落快 「提示工程師」不再吃香
人工智能(AI)正在創造就業機會,無論上班族或急需人手的公司,今年似乎要面對新難題,就是科技職位名稱變得五花八門,職責又不清晰,稱謂不同但工作重疊,往往讓求職者摸不着頭腦。
- Posted April 29, 2025
- 0
-
小米手機|內地市佔19%稱冠
市場調研機構Canalys最新數據顯示,小米(01810)手機於今年首季在中國市場市佔率達19%,位居榜首,按年增長5個百分點。
- Posted April 28, 2025
- 0
-
全球AI發展陷十字路口(方保僑)
美國特朗普政府近期的關稅政策反覆無常,近日又全面禁止輝達(Nvidia)向中國出口特供版人工智能(AI)晶片H20,令輝達需要減記55億美元庫存與採購費用,股價單日重挫近7%。
- Posted April 28, 2025
- 0
-
DeepMind|創辦人倡監督AGI
Google DeepMind行政總裁、諾貝爾化學獎得主哈薩比斯(Demis Hassabis)警告,世界正在接近實現「通用人工智能」(AGI)的最後階段,但社會尚未準備好迎接這種能達到人類認知能力的AI系統。
- Posted April 28, 2025
- 0
-
Anthropic|冀破解AI內部運作
美國科企Anthropic聯席創辦人及行政總裁阿莫迪(Dario Amodei)發表文章指出,人工智能(AI)技術勢不可擋,惟可解釋性(Interpretability)才是業界與政策制定者應該關注的焦點。
- Posted April 28, 2025
- 0
-
AI法規|歐盟擬簡化AI法規 追趕中美
歐盟日前啟動人工智能大陸(AI Continent)行動計劃,敲定逾2000億歐羅龐大投資細節,標誌AI政策出現重大轉向。
- Posted April 28, 2025
- 0
-
國泰航空|重塑辦公空間 增進員工溝通
面對航空營運日益複雜的挑戰,國泰(00293)綜合運作中心(IOC)近年積極引進人工智能(AI)輔助決策,並且同步重塑辦公空間,希望藉此打破部門隔閡,促進跨部門以AI工具即時溝通與協作。
- Posted April 28, 2025
- 0