Don't Miss
AI換臉須突出標識 當局指免公眾混淆
By 信報財經新聞 on December 13, 2022
原文刊於信報財經新聞
國家網信辦、工信部、公安部聯合發布《互聯網信息服務深度合成管理規定》，明年1月10日起實施，當中明確規定提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或顯著改變資訊內容功能的服務者，應進行顯著標識，避免公眾混淆或誤認，任何組織和個人不得用技術手段刪除、篡改、隱匿相關標識。
網上爆火的聊天機器人ChatGPT，以及「換臉」、AI繪畫、虛擬主播等場景都使用深度偽造（Deepfake）等技術，卻同時被一些不法者用於製作、複製、發布、傳播違法和不良資訊，詆毀、貶損他人名譽、榮譽，仿冒他人身份詐騙。
軍方輿論：技術可干擾軍心
具解放軍背景的「鈞正平」在網上發文指出，在近期發生的地區衝突中，「AI換臉」技術已被廣泛應用於互聯網輿論戰場，以干擾對方軍心、民心，影響戰爭走向，因此提醒網民要保持冷靜思考，以免被蠅營狗苟之徒用新技術所欺騙和利用。
「AI換臉」系列App降低操作難度，使普通人毋須學會掌握代碼也能製作虛假影片，違法成本變低。因此，國家網信辦有關負責人認為，深度合成服務治理需要政府、企業、社會、網民等多方主體共同參與，推動深度合成技術的依法、合理、有效使用，促進互聯網資訊服務健康發展，維護網絡空間良好生態。
在台灣，網紅「小玉」（本名朱玉宸）與助理莊炘睿利用Deepfake移植高雄市議員黃捷、立委高嘉瑜及網紅鄭家純等119名受害者臉部至色情片，自2020年7月起至去年10月共牟利1300餘萬元（約329萬港元）。新北地方法院7月宣判朱玉宸5年半有期徒刑、莊炘睿3年8月有期徒刑，但新北地方檢察署認為判決過輕，且未與受害人達和解，已上訴。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
