AI文字水印|OpenAI文字水印反作弊 肉眼無法察覺 !檢視準確率99.9%
原文刊於信報財經新聞「EJ Tech 創科鬥室」
自聊天機械人ChatGPT面世以來,教育界一直擔心有學生濫用,例如使用人工智能(AI)作弊,甚至「搬字過紙」變相代寫學術論文。美國《華爾街日報》爆料,OpenAI已開發一種文字水印技術,能夠檢測AI編寫的文本,標榜準確率高達99.9%,亦不會損害ChatGPT寫作品質。不過,公司擔心此舉會誤中副車,把非英語國家用戶編寫的文字,錯誤地識別為「由AI創建」,故至今仍未發布有關工具。
《華爾街日報》引述知情人士指出,ChatGPT由AI系統提供支持,可以預測句子接下來應該出現什麼單字或段落,這做法稱之為Token。OpenAI正在研發的反作弊工具,將稍為修改背後揀選Token的規律,留下肉眼無法察覺的水印,並可透過單獨工具檢測出來。團隊同時研究,在「文本溯源」諸多解決方案中,引進分類器(Classifiers)、元數據(Metadata)等做法,惟仍處於早期探索階段。
七成人憂誤判 或失使用意欲
OpenAI於周日(4日)更新官方網誌,指針對釋義等局部修改,文字水印非常準確有效,不過面對某些形式的改動,可能出現失效或者誤判。事實上,現時坊間有多種做法,清洗由AI工具生成的文本內容,例如透過翻譯系統,或另一AI模型潤色字眼;或要求AI模型於每個單詞之間,插入特殊字符後再刪除,藉此改變內容的連貫性。
報道又稱,OpenAI對推出水印工具態度審慎,該企去年調查ChatGPT用戶意見,發現大部分受訪者(69%)擔心,作弊檢測技術可能造成誤判。
此外,接近三分一受訪者坦言,如果OpenAI部署水印而對手沒有跟隨,他們可能失去對ChatGPT的興趣從而減少使用。內部文件顯示,OpenAI今年秋天將制定一項計劃,影響公眾對AI透明度的看法,以及有關主題的潛在新法律。
Meta傳洽影星聲音納AI產品
荷里活女星施嘉莉祖安遜(Scarlett Johansson)今年5月批評OpenAI,指它擅用其聲音開發AI聊天機械人。《紐約時報》提到,Meta Platforms正與荷里活影星洽談AI語音項目,擬繳付數百萬美元授權費,爭取把其聲音納入MetaAI數碼助理產品,目標在9月的Connect 2024大會亮相成果。
支持EJ Tech
如欲投稿、報料,發布新聞稿或採訪通知,按這裏聯絡我們。Related Posts
Latest News
-
智能手機之戰|據報Apple 新iPhone AI初版 缺ChatGPT等功能
彭博科技記者格爾曼(Mark Gurman)報道指,iPhone 16重頭戲是Apple Intelligence,但推出腳步蹣跚,初版將缺少包括ChatGPT的許多功能,Apple Intelligence亦不會在歐盟、中國推出。
- Posted September 9, 2024
- 0
-
福特轉型生產電動車的挑戰(方保僑)
美國福特汽車(Ford)自1903年成立以來,一直以生產高質量的燃油車聞名於世。然而,隨着全球對環保的重視和新能源技術迅速發展,這間百年老字號汽車製造商,面臨空前挑戰。
- Posted September 9, 2024
- 0
-
電動車之戰|馬斯克否認xAI分享Tesla自駕技術收入
特斯拉行政總裁馬斯克否認他個人控制的人工智能(AI)初創企業xAI與特斯拉洽談分享科技及分攤相關收入的傳聞。
- Posted September 9, 2024
- 0
-
Snaildy|招攬IT人才看重理念相同
本地教育科技初創Snaildy(樂旼共融教育),兩位創辦人劉樂健及羅偉業,均不具備科技背景,因此渴求資訊科技(IT)人才加盟。
- Posted September 9, 2024
- 0
-
Snaildy|SEN管理系統減教師負擔 AI簡化文書處理 與學生家長互通
香港城市大學HK Tech 300天使基金支持初創Snaildy(樂旼共融教育),開發「特殊資優中央資料庫系統」,配合人工智能(AI)技術,數碼化形式管理SEN學生資料,讓師生及家校實現資訊互通。
- Posted September 9, 2024
- 0
-
AI融入學習 須掌握三大程式(黃岳永)
還記得2022年底美企OpenAI推出ChatGPT後,教育界對是否在教育中應用人工智能(AI)態度兩極。眨眼間ChatGPT面世接近兩年,學校也知悉AI對下一代的重要性。
- Posted September 6, 2024
- 0
-
2G服務將告終 全面迎接5G(林國誠)
2G流動通訊服務曾經在九十年代末期,為電訊業帶來翻天覆地的變化,讓大眾首次享受到流動通話、短訊和基本的數據服務。2G流動網絡的出現,更直接令流動通訊服務在香港得以普及,打好香港領先全球流動通訊領導地位的基礎。
- Posted September 6, 2024
- 0