Don't Miss
提前應對深偽技術風險（葉文瀚博士）
By 信報財經新聞 on February 7, 2024
近日一張以深度偽造（Deepfake）技術合成、疑似美國樂壇天后Taylor Swift的不雅照片，在社交媒體上廣泛傳播，引發了假新聞泛濫的擔憂。深度偽造是一種以人工智能（AI）為基礎的技術，可以合成虛構的圖像、音頻及短片內容。
社交媒體平台X（前身Twitter）在17個小時後，才將涉事照片刪除；而相關內容的點擊率已超過5000萬次。這次事件再次提醒我們，AI換臉技術的濫用可能導致假新聞在選舉期間泛濫。為應對這一風險，我們需要提前制定相應措施。
深度偽造技術的濫用情況，不止於Taylor Swift事件。美國民主黨總統候選人初選之前，黨員們同時收到了一則假電話，內容是拜登總統鼓勵大家不要投票。這些事件顯示生成式人工智能技術的普及，使任何人都可以輕鬆快速地製作深度偽造內容。
為了防止「深度偽造技術」被濫用，有必要對該技術的使用施以適當限制。一些國家已開始採取行動。例如，韓國通過了公職選舉法修訂案，在選舉前90天起禁止利用深度偽造技術進行選舉活動。對於以深度偽造技術製作的不雅內容，亦可根據相關法律予以懲罰。
但是，單靠法律條文可能難以完全遏制這些惡行。有見及此，多間科技公司正努力開發辨識技術，用於識別AI深度偽造。谷歌、微軟等科技巨頭，於使用生成式AI製作的深度偽造內容打水印，提前阻止濫用的可能性。這些技術的發展，對遏制技術濫用至關重要。深度偽造技術會帶來一些負面影響，不過亦可作正面應用。例如在娛樂行業中，深度偽造技術能為觀眾提供更豐富的視覺體驗。因此，我們不能將AI換臉技術視為完全的罪惡，而是需要在提高效率的基礎上，引導及管理其發展。
更多葉文瀚博士文章：
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
Related Posts
