陳仲文｜AI武器化 衍生新興網絡威脅
原文刊於信報財經新聞「CEO AI⎹ EJ Tech」
人工智能（AI）技術飛速發展，全球網絡安全風險亦隨之升溫，黑客攻擊模式變得更加精密。香港生產力促進局數碼轉型部總經理、香港網絡安全事故協調中心（HKCERT）發言人陳仲文指出，本地企業現時面對五大網安風險，從大型語言模型（LLM）外洩風險、AI助長的詐騙攻擊，以至關鍵基礎設施的安全隱憂等，企業須正視新興威脅，強化防禦策略。
目錄
黑客數據投毒 干擾LLM判斷
AI近年廣泛應用於客服、搜尋與業務支援，安全風險逐步浮現。陳仲文舉例說，連結LLM的聊天機械人，可能會遭黑客使用提詞攻擊（Prompt Hacking），透過前設指令誘導模型生成錯誤回應，外國法院有案例裁定企業可能要為此負責。
牽涉LLM的還有更深層次的對抗性攻擊，此類攻擊發生在企業訓練或微調模型階段，黑客透過數據投毒，以干擾模型的未來判斷。例如有研究指出，正常街景圖在經過微小擾動後，即能誤導AI模型將之誤判為無人通行，能對自駕系統造成潛在災難。
真假難辨 深偽騙案多10倍
此外，AI普及使黑客攻擊工具變得更自動化與精準。從掃描IP位址、識別漏洞、產生惡意代碼，以至撰寫釣魚電郵，幾乎可以一手包辦。一些黑客更利用「越獄版」AI模型繞過限制，生成非法內容，包括木馬程式與勒索軟件等。
即使是ChatGPT等正常的AI工具，亦能夠用於撰寫語言自然的釣魚郵件，令用戶更難分辨真偽。不少詐騙案件均是結合AI語言生成與社交工程技巧，香港基於此等深偽（Deepfake）技術的虛假資訊傳播及詐騙個案數字，去年便飆升了10倍。
企業、個人日常使用的物聯網設備，如智能手錶、家居攝錄機、無人機等，要是沒有定期更新，或是密碼設置不當，也容易受到黑客控制，淪為殭屍網絡成員，發動分散式阻斷攻擊（DDoS）癱瘓目標站點或服務。
另外，企業對外判服務、開源程式碼及雲端平台的依賴日益加深，但這類來自外部機構的第三方資源，有機會帶來威脅或漏洞，成為最後一道風險。
「零信任架構」增強防禦力
面對前述複雜新型威脅，陳仲文建議企業部署新一代行為式偵測系統，分析設備行為異常，而非依賴病毒特徵碼來辨識威脅，「制度上則要推行『零信任架構』，要求內外一切連接都經過身份驗證、行為審查與限權處理。」企業亦須加強第三方風險審核與資料使用權限的設計，避免有不當資料存取或洩漏，尤其在使用LLM時，企業需進行模擬測試，設計指令過濾機制，防止非授權存取個人或客戶資料。
不久前立法會通過《保護關鍵基礎設施（電腦系統）條例草案》，明年1月生效，法例旨在強化醫療、交通、能源等基礎設施的網絡防禦能力。陳仲文重申，企業必須採取主動應對各種威脅，被動防守不再是選項。
採訪、撰文：郭文德
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
