You are currently at: ejtech.hkej.com
Skip This Ads
Don't Miss
Home   >   科技動態   >   AI文字水印｜OpenAI文字水印反作弊 肉眼無法察覺 ！檢視準確率99.9%

AI文字水印｜OpenAI文字水印反作弊 肉眼無法察覺 ！檢視準確率99.9%

By on August 6, 2024

原文刊於信報財經新聞「EJ Tech 創科鬥室」

自聊天機械人ChatGPT面世以來，教育界一直擔心有學生濫用，例如使用人工智能（AI）作弊，甚至「搬字過紙」變相代寫學術論文。美國《華爾街日報》爆料，OpenAI已開發一種文字水印技術，能夠檢測AI編寫的文本，標榜準確率高達99.9%，亦不會損害ChatGPT寫作品質。不過，公司擔心此舉會誤中副車，把非英語國家用戶編寫的文字，錯誤地識別為「由AI創建」，故至今仍未發布有關工具。

OpenAI開發一種文字水印技術，能夠檢測AI編寫的文本，準確率達99.9%。（路透資料圖片）

《華爾街日報》引述知情人士指出，ChatGPT由AI系統提供支持，可以預測句子接下來應該出現什麼單字或段落，這做法稱之為Token。OpenAI正在研發的反作弊工具，將稍為修改背後揀選Token的規律，留下肉眼無法察覺的水印，並可透過單獨工具檢測出來。團隊同時研究，在「文本溯源」諸多解決方案中，引進分類器（Classifiers）、元數據（Metadata）等做法，惟仍處於早期探索階段。

七成人憂誤判 或失使用意欲

OpenAI於周日（4日）更新官方網誌，指針對釋義等局部修改，文字水印非常準確有效，不過面對某些形式的改動，可能出現失效或者誤判。事實上，現時坊間有多種做法，清洗由AI工具生成的文本內容，例如透過翻譯系統，或另一AI模型潤色字眼；或要求AI模型於每個單詞之間，插入特殊字符後再刪除，藉此改變內容的連貫性。

報道又稱，OpenAI對推出水印工具態度審慎，該企去年調查ChatGPT用戶意見，發現大部分受訪者（69%）擔心，作弊檢測技術可能造成誤判。

此外，接近三分一受訪者坦言，如果OpenAI部署水印而對手沒有跟隨，他們可能失去對ChatGPT的興趣從而減少使用。內部文件顯示，OpenAI今年秋天將制定一項計劃，影響公眾對AI透明度的看法，以及有關主題的潛在新法律。

Meta傳洽影星聲音納AI產品

荷里活女星施嘉莉祖安遜（Scarlett Johansson）今年5月批評OpenAI，指它擅用其聲音開發AI聊天機械人。《紐約時報》提到，Meta Platforms正與荷里活影星洽談AI語音項目，擬繳付數百萬美元授權費，爭取把其聲音納入MetaAI數碼助理產品，目標在9月的Connect 2024大會亮相成果。

支持EJ Tech

如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。