Don't Miss
AI缺陷｜AI系統95%缺陷未被發現
By 信報財經新聞 on March 18, 2025
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
人工智能（AI）技術急速崛起，改寫資訊安全的攻防格局，漏洞可能更複雜且難以預測。雲集過百全球AI行業領袖的HumanX論壇，上周在美國拉斯維加斯閉幕。科技媒體PCMag報道，美企資安科企SentinelOne資訊安全總監斯塔莫斯（Alex Stamos）在大會警告，AI系統的95%缺陷還未被發現，呼籲業界正視未來的潛在風險。
斯塔莫斯曾經擔任雅虎及Facebook（fb）前安全總監（CISO），他認為AI模型或出現3種故障方式。首先是傳統的安全漏洞，即攻擊者「讓系統違反其基本原則，令它無法符合開發人員的預期目標」；其次是「對人類造成傷害」的安全故障；第三點是「對齊」（Alignment）失敗，即AI本身出現錯誤，例如客服聊天機械人「感到沮喪並罵我的客戶」。
fb前總監：從事網安不怕失業
談到網絡保安的未來趨勢，斯塔莫斯認為AI系統在多年前，已能實現監控及分析自動化，人類的角色在於監督「機器對機器」的戰鬥，再決定採取什麼防禦措施。他舉例，安全營運中心（SOC）的分析師，不需要花30分鐘分析危險行為，而是馬上已掌握所有訊息，只需10到15秒就能做決定。
斯塔莫斯續稱，攻擊者以坊間的AI軟件，應用到殺傷鏈不同環節。只要擁有Windows C++基本知識，便可在AI幫助下編寫新的惡意軟件；甚至代替不善言詞的黑客，向受害企業談判贖金。最後他指出，資訊安全是「電腦科學唯一每年都在惡化的領域」，並給出一項職業建議：「如果你不想失業，我強烈建議你投身網絡安全領域，因為情況短期內不會改善。」
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
