AI文字水印|OpenAI文字水印反作弊 肉眼無法察覺 !檢視準確率99.9%
原文刊於信報財經新聞「EJ Tech 創科鬥室」
自聊天機械人ChatGPT面世以來,教育界一直擔心有學生濫用,例如使用人工智能(AI)作弊,甚至「搬字過紙」變相代寫學術論文。美國《華爾街日報》爆料,OpenAI已開發一種文字水印技術,能夠檢測AI編寫的文本,標榜準確率高達99.9%,亦不會損害ChatGPT寫作品質。不過,公司擔心此舉會誤中副車,把非英語國家用戶編寫的文字,錯誤地識別為「由AI創建」,故至今仍未發布有關工具。

《華爾街日報》引述知情人士指出,ChatGPT由AI系統提供支持,可以預測句子接下來應該出現什麼單字或段落,這做法稱之為Token。OpenAI正在研發的反作弊工具,將稍為修改背後揀選Token的規律,留下肉眼無法察覺的水印,並可透過單獨工具檢測出來。團隊同時研究,在「文本溯源」諸多解決方案中,引進分類器(Classifiers)、元數據(Metadata)等做法,惟仍處於早期探索階段。
七成人憂誤判 或失使用意欲
OpenAI於周日(4日)更新官方網誌,指針對釋義等局部修改,文字水印非常準確有效,不過面對某些形式的改動,可能出現失效或者誤判。事實上,現時坊間有多種做法,清洗由AI工具生成的文本內容,例如透過翻譯系統,或另一AI模型潤色字眼;或要求AI模型於每個單詞之間,插入特殊字符後再刪除,藉此改變內容的連貫性。
報道又稱,OpenAI對推出水印工具態度審慎,該企去年調查ChatGPT用戶意見,發現大部分受訪者(69%)擔心,作弊檢測技術可能造成誤判。
此外,接近三分一受訪者坦言,如果OpenAI部署水印而對手沒有跟隨,他們可能失去對ChatGPT的興趣從而減少使用。內部文件顯示,OpenAI今年秋天將制定一項計劃,影響公眾對AI透明度的看法,以及有關主題的潛在新法律。
Meta傳洽影星聲音納AI產品
荷里活女星施嘉莉祖安遜(Scarlett Johansson)今年5月批評OpenAI,指它擅用其聲音開發AI聊天機械人。《紐約時報》提到,Meta Platforms正與荷里活影星洽談AI語音項目,擬繳付數百萬美元授權費,爭取把其聲音納入MetaAI數碼助理產品,目標在9月的Connect 2024大會亮相成果。
支持EJ Tech


Related Posts
Latest News
-
實踐可持續建築減廢方案(鄧淑明博士)
據發展局局長甯漢豪指出,近年香港的公營部門及私營公司,每年建築工程費用總開支達到3000億元,可為業界提供實踐可持續建築的黃金機會,把「ESG(環境、社會及管治)原則」納入大型建築項目,筆者深表認同。
- Posted April 17, 2025
- 0
-
數碼科技體驗館|數碼港17間園區企業展成果
數碼港「數碼科技體驗館」正式開幕,即日起向企業及公眾開放。當中設有「提升效率」、「安全」、「互動體驗區」三大展區,展示人工智能(AI)、區塊鏈及Web3.0等最新前沿科技方案,涵蓋教育、醫療、智慧城市等領域的應用。
- Posted April 17, 2025
- 0
-
DeepMind|聘專家安全開發AGI
科技巨企谷歌(Google)旗下人工智能(AI)研究團隊DeepMind,在英國倫敦公開招募「後AGI」研究科學家,研究通用人工智能(AGI)、超級人工智能(ASI)及機器意識,以至AGI對人類社會基礎的影響。
- Posted April 17, 2025
- 0
-
離心砲|美初創研建離心炮發射衞星
美國加州初創SpinLaunch主力研發巨型離心砲,計劃明年起發射數百顆微型衞星,在近地軌道(LEO)部署通訊系統Meridian Space。
- Posted April 17, 2025
- 0
-
嘲諷科技文化|矽谷過路處按鈕被駭遭惡搞
美國加州三藩市灣區等矽谷一帶,上周末起相繼有人發現行人過路處按鈕被駭,植入多條以人工智能(AI)合成的模仿語音,聲稱自己為Meta行政總裁朱克伯格、億萬富豪馬斯克,以嘲諷科技文化、AI及企業過度擴張等行為。
- Posted April 17, 2025
- 0
-
人形機械人|眾擎PM01機械人售價19萬
世界級網紅「甲亢哥」(IShowSpeed)早前訪華,於深圳與「眾擎PM01」機械人共跳「斧頭舞」。最近這款人形機械人量產,在眾擎京東自營旗艦店上架,售價18.8萬元人民幣,預計到今年6月底才有貨。
- Posted April 17, 2025
- 0
-
AI代勞損信任|哈佛教授提醒 易遭識破損信任 企業CEO與員工交流 忌以AI代勞
最新一期《哈佛商業評論》刊登文章,探討企業高層及行政總裁(CEO)使用人工智能(AI)工具代筆,或引發對內部信任的損害。
- Posted April 17, 2025
- 0