Don't Miss
網現破解版ChatGPT 付費生成惡意軟件
By 信報財經新聞 on February 10, 2023
原文刊於信報財經新聞「StartupBeat創科鬥室」
美企OpenAI研發的人工智能（AI）聊天機械人ChatGPT爆紅後，各界紛紛以其生成內容，網絡罪犯亦把握商機。以色列網絡保安公司Check Point Research爆料指出，有黑客透過API（應用程式介面）設計出一種繞過ChatGPT限制的方法，不但在地下犯罪論壇銷售服務，更大賣廣告，以增加曝光率。
黑客藉API繞過限制
ChatGPT擅長模仿人類對答的口吻，可用作創建文檔、編寫軟件程式碼。不過，當用戶要求平台生成一些非法內容時，例如開發入侵設備的惡意軟件，或撰寫網絡釣魚電郵時，ChatGPT會拒絕要求，並回覆此類內容是「非法、不道德及有害的」。
Check Point Research提到，有網絡罪犯把ChatGPT的API結合社交平台Telegram包裝為網上客戶服務。只要透過手機應用程式，即可連接後台模型及數據，繞過ChatGPT防護機制。服務收費方面，用戶首20次查詢免費，之後每100次收費5.5美元（約42.9港元）。
谷歌倡標明內容自AI
英國廣播公司報道，ChatGPT背後的OpenAI以文本數據庫訓練模型時，從網上收集高達570GB數據，來源包括書籍、網絡文本、維基百科等，為系統輸入了3000億個單詞，惟當中含有未經授權的個人訊息。即使數據公開可用，OpenAI收集的內容是否符合歐盟《通用數據保障條例》（GDPR），仍然有待商榷。
網上不少實用資訊，例如賽事分數、天氣預報等，均借助自動技術生成。繼宣布推出「實驗性對話式AI服務」Bard後，谷歌（Google）再發表AI生成內容指引，所針對並非如何製作內容，而是內容本身有否價值。換言之，即使內容由人手創作，但若無價值，對搜尋排名沒有幫助。此外，假如內容是由AI生成，谷歌建議在文中提及。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
