AI文字水印|OpenAI文字水印反作弊 肉眼無法察覺 !檢視準確率99.9%
原文刊於信報財經新聞「EJ Tech 創科鬥室」
自聊天機械人ChatGPT面世以來,教育界一直擔心有學生濫用,例如使用人工智能(AI)作弊,甚至「搬字過紙」變相代寫學術論文。美國《華爾街日報》爆料,OpenAI已開發一種文字水印技術,能夠檢測AI編寫的文本,標榜準確率高達99.9%,亦不會損害ChatGPT寫作品質。不過,公司擔心此舉會誤中副車,把非英語國家用戶編寫的文字,錯誤地識別為「由AI創建」,故至今仍未發布有關工具。

《華爾街日報》引述知情人士指出,ChatGPT由AI系統提供支持,可以預測句子接下來應該出現什麼單字或段落,這做法稱之為Token。OpenAI正在研發的反作弊工具,將稍為修改背後揀選Token的規律,留下肉眼無法察覺的水印,並可透過單獨工具檢測出來。團隊同時研究,在「文本溯源」諸多解決方案中,引進分類器(Classifiers)、元數據(Metadata)等做法,惟仍處於早期探索階段。
七成人憂誤判 或失使用意欲
OpenAI於周日(4日)更新官方網誌,指針對釋義等局部修改,文字水印非常準確有效,不過面對某些形式的改動,可能出現失效或者誤判。事實上,現時坊間有多種做法,清洗由AI工具生成的文本內容,例如透過翻譯系統,或另一AI模型潤色字眼;或要求AI模型於每個單詞之間,插入特殊字符後再刪除,藉此改變內容的連貫性。
報道又稱,OpenAI對推出水印工具態度審慎,該企去年調查ChatGPT用戶意見,發現大部分受訪者(69%)擔心,作弊檢測技術可能造成誤判。
此外,接近三分一受訪者坦言,如果OpenAI部署水印而對手沒有跟隨,他們可能失去對ChatGPT的興趣從而減少使用。內部文件顯示,OpenAI今年秋天將制定一項計劃,影響公眾對AI透明度的看法,以及有關主題的潛在新法律。
Meta傳洽影星聲音納AI產品
荷里活女星施嘉莉祖安遜(Scarlett Johansson)今年5月批評OpenAI,指它擅用其聲音開發AI聊天機械人。《紐約時報》提到,Meta Platforms正與荷里活影星洽談AI語音項目,擬繳付數百萬美元授權費,爭取把其聲音納入MetaAI數碼助理產品,目標在9月的Connect 2024大會亮相成果。
支持EJ Tech


Related Posts
Latest News
-
超級寬頻 早着先機(林國誠)
在資訊爆炸、技術快速發展的年代,上網速度已不僅關乎日常娛樂或下載資料,更成為推動人工智能(AI)普及的重要基礎。
- Posted March 28, 2025
- 0
-
量子電腦|谷歌量子專家預計 最快5年技術突破
谷歌量子人工智能硬件總監凱利(Julian Kelly)接受外媒CNBC訪問時指,現距離技術突破尚有5年時間,料屆時將做到現代電腦無法計算的實際應用。
- Posted March 28, 2025
- 0
-
JUMPSTARTER|信標生醫贏阿里環球創業賽
阿里巴巴(09988)創業者基金/滙豐JUMPSTARTER for One Earth環球創業比賽昨天宣布結果,最終由早期癌症檢測液體活檢測試公司Pharus Diagnostics(信標生醫)勝出。
- Posted March 28, 2025
- 0
-
MCP|OpenAI採用MCP技術利開發
ChatGPT開發商OpenAI昨天宣布接入開源標準「模型上下文協議」(Model Context Protocol, MCP),進一步推動人工智能(AI)模型與資料來源的整合標準化。
- Posted March 28, 2025
- 0
-
AI Agent|微軟推智能代理做研究分析
微軟(Microsoft)於生產力應用程式Microsoft 365 Copilot,推出兩個分別名為Researcher(研究員)及Analyst(分析師)的「深度推理」代理(Agent)。
- Posted March 28, 2025
- 0
-
吳恩達|AI應用始能創造價值
人工智能(AI)專家吳恩達近日接受台灣媒體專訪,提到「對於大多數企業而言,真正的價值將存在於應用層面」。
- Posted March 28, 2025
- 0
-
阿里開源AI模型|手機適用 可圖文影音輸入 設男女聲解答
阿里巴巴(09988)昨天在Hugging Face及GitHub等軟件平台,開源首個端對端多模態AI模型Qwen2.5-Omni-7B,可供處理文字、圖像、音訊及視訊在內的輸入,同時產生即時文字及自然語音回應。
- Posted March 28, 2025
- 0