Don't Miss
AI缺陷|AI系統95%缺陷未被發現
By 信報財經新聞 on March 18, 2025
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
人工智能(AI)技術急速崛起,改寫資訊安全的攻防格局,漏洞可能更複雜且難以預測。雲集過百全球AI行業領袖的HumanX論壇,上周在美國拉斯維加斯閉幕。科技媒體PCMag報道,美企資安科企SentinelOne資訊安全總監斯塔莫斯(Alex Stamos)在大會警告,AI系統的95%缺陷還未被發現,呼籲業界正視未來的潛在風險。
斯塔莫斯曾經擔任雅虎及Facebook(fb)前安全總監(CISO),他認為AI模型或出現3種故障方式。首先是傳統的安全漏洞,即攻擊者「讓系統違反其基本原則,令它無法符合開發人員的預期目標」;其次是「對人類造成傷害」的安全故障;第三點是「對齊」(Alignment)失敗,即AI本身出現錯誤,例如客服聊天機械人「感到沮喪並罵我的客戶」。
fb前總監:從事網安不怕失業
談到網絡保安的未來趨勢,斯塔莫斯認為AI系統在多年前,已能實現監控及分析自動化,人類的角色在於監督「機器對機器」的戰鬥,再決定採取什麼防禦措施。他舉例,安全營運中心(SOC)的分析師,不需要花30分鐘分析危險行為,而是馬上已掌握所有訊息,只需10到15秒就能做決定。
斯塔莫斯續稱,攻擊者以坊間的AI軟件,應用到殺傷鏈不同環節。只要擁有Windows C++基本知識,便可在AI幫助下編寫新的惡意軟件;甚至代替不善言詞的黑客,向受害企業談判贖金。最後他指出,資訊安全是「電腦科學唯一每年都在惡化的領域」,並給出一項職業建議:「如果你不想失業,我強烈建議你投身網絡安全領域,因為情況短期內不會改善。」
支持EJ Tech

