You are currently at: ejtech.hkej.com
Skip This Ads
Don't Miss

AI缺陷|AI系統95%缺陷未被發現

By on March 18, 2025

原文刊於信報財經新聞「CEO AI⎹ EJ Tech

人工智能(AI)技術急速崛起,改寫資訊安全的攻防格局,漏洞可能更複雜且難以預測。雲集過百全球AI行業領袖的HumanX論壇,上周在美國拉斯維加斯閉幕。科技媒體PCMag報道,美企資安科企SentinelOne資訊安全總監斯塔莫斯(Alex Stamos)在大會警告,AI系統的95%缺陷還未被發現,呼籲業界正視未來的潛在風險。

斯塔莫斯在一個論壇上,呼籲正視AI系統的潛在風險。(HumanX網上圖片)

斯塔莫斯曾經擔任雅虎及Facebook(fb)前安全總監(CISO),他認為AI模型或出現3種故障方式。首先是傳統的安全漏洞,即攻擊者「讓系統違反其基本原則,令它無法符合開發人員的預期目標」;其次是「對人類造成傷害」的安全故障;第三點是「對齊」(Alignment)失敗,即AI本身出現錯誤,例如客服聊天機械人「感到沮喪並罵我的客戶」。

fb前總監:從事網安不怕失業

談到網絡保安的未來趨勢,斯塔莫斯認為AI系統在多年前,已能實現監控及分析自動化,人類的角色在於監督「機器對機器」的戰鬥,再決定採取什麼防禦措施。他舉例,安全營運中心(SOC)的分析師,不需要花30分鐘分析危險行為,而是馬上已掌握所有訊息,只需10到15秒就能做決定。

斯塔莫斯續稱,攻擊者以坊間的AI軟件,應用到殺傷鏈不同環節。只要擁有Windows C++基本知識,便可在AI幫助下編寫新的惡意軟件;甚至代替不善言詞的黑客,向受害企業談判贖金。最後他指出,資訊安全是「電腦科學唯一每年都在惡化的領域」,並給出一項職業建議:「如果你不想失業,我強烈建議你投身網絡安全領域,因為情況短期內不會改善。」

支持EJ Tech

如欲投稿、報料,發布新聞稿或採訪通知,按這裏聯絡我們