AI安全｜六AI語音複製工具 保障如虛設 聲音授權存漏洞 易遭騙徒冒用
原文刊於信報財經新聞「CEO AI⎹ EJ Tech——倫理政策」
生成式人工智能（GenAI）技術成熟，上傳幾秒鐘錄音樣本，即可模仿說話人的口吻。美國著名消費品評測雜誌《消費者報告》周一提到，他們調查網上6款公開的AI語音複製工具，包括Descript、ElevenLabs、Lovo、PlayHT、Resemble AI及Speechify，多數平台保障條款形同虛設，可在當事人不知情下複製其聲音。
填寫姓名電郵即可開戶
雜誌研究人員測試上述AI產品後，發現接受評估的6間科企中，三分之二平台入場門檻極低，簡單填寫客戶姓名，以至電郵地址即可開戶。報告又指出，所有服務均向公眾提供，只有Eleven Labs及Resemble AI需要花錢，收費為5美元及1美元，其他平台都是免費使用。
報告更點名ElevenLabs、Speechify、PlayHT及Lovo等，當用戶授權平台複製其聲音時，僅要求勾選確認方格，毋須證明聲音擁有者的身份，即用戶可上載他人聲音作複製。Resemble AI則需要即場錄音確認用戶身份，惟只要播放他人的錄音替代，一樣能規避這項授權限制。Descript平台的保障最為全面，要求用戶讀出指定字眼的同意聲明，偽造身份難度較高。
《消費者報告》建議，除了立法保護用戶權益外，平台亦可收集客戶資訊，例如姓名、電郵或信用卡號碼，一旦出事也能有跡可尋。
建議加入音訊水印防偽
AI科企須設立機制及協議，例如註冊時上傳獨特對白的錄音，增加盜用第三方錄音的難度。技術層面亦可多做工夫，AI檢測並防止使用名人錄音，系統生成的音訊加入水印，亦可為工具建立「語義護欄」，從源頭阻截詐騙等相關字眼。
AI語音複製產品有多種合法用途，包括助殘疾人士溝通，翻譯不同語言等。不過，如果沒適當保護措施，AI產品就淪為詐騙工具，冒充親友、名人及政治人物，代言可疑產品及虛假投資計劃。去年初，本港有金融騙徒以深偽技術（Deepfake），假扮跨國公司高層騙走兩億元。《金融時報》近日報道，索尼音樂直指深度偽造歌曲的泛濫，對英國在內的合法唱片藝人造成直接商業損害，並從網上刪除超過7.5萬首模仿其藝人的虛假歌曲。
至於美國兩間AI初創Suno AI及Udio，因未經授權使用受版權保護的音樂，以訓練其AI模型而備受關注。索尼音樂集團（SMG）去年5月，向700名AI開發人員及音樂串流服務商發信，宣稱「選擇退出」把內容用於AI訓練。未幾，美國唱片業協會（RIAA）代表索尼音樂娛樂公司、環球音樂集團及華納唱片等音樂公司，去年6月起訴上述兩間科企侵權，要求每首侵權歌曲最高賠償15萬美元（約117萬港元）。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
