Votee AI|粵語AI大模型 港府採用 初創Votee AI蒐10年數據開發
原文刊於信報財經新聞「EJ Tech 創科鬥室」
廣東話博大精深,保留不少古漢語特徵,其聲調複雜之餘,亦有不少獨特俚語,例如「吊吊揈」、「虢礫緙嘞」(粵音:撠溺卡勒)等詞語,港人識聽識講卻未必個個識寫。數碼港培育人工智能(AI)初創Votee AI利用過去10年積累的數據,研發一款廣東話大型語言模型(LLM),產品獲本地多間銀行及生產力促進局採用,並為政府部門提供AI聊天機械人服務。
遣詞造句符合港人習慣
Votee AI技術總監陳豪傑表示,公司研發的廣東話LLM模型,設有個人及企業兩個版本。團隊可根據客戶具體業務,結合其內部資料、提供客製化服務。主打個人的Community Version為開源版本,相關程式碼及數據已上傳至AI協作平台Hugging Face。
從現場示範可見,Votee AI聊天機械人反應速度不錯,遣詞造句符合港人習慣。陳豪傑指出,在使用輝達(Nvidia)RTX A4500繪圖處理器(GPU)情況下,運算兩次對話大約耗時25秒,快過人眼的閱讀速度。
談到開發過程,陳豪傑稱,初時大家通常會用檢索增強(RAG)技術。即結合AI和數據庫搜尋的技術,在生成回答時即時檢索相關資訊。現時不少開發者都選擇為模型微調,但形容這種方法,「問題在於最多只能改動LLM的5%左右,通常甚至只有1%。」
陳豪傑坦言,團隊經歷一番掙扎後,最終選擇基於Meta開源模型Llama,進行持續預訓練(Continual Pre-Training),他強調,Llama本身不具備廣東話能力,團隊相當於「所有嘢都要修改」。
即時翻譯準確率逾九成
要訓練大模型,採用大量及準確的數據是關鍵,陳豪傑說,這正是團隊遇到的技術挑戰之一。數據來源可以歸納為三類,一是俗語和網絡流行用語,第二是書面語,最後則是實際對話。他認為,廣東話屬於「資源稀缺型語言」。以維基百科文章為例,英文約有250萬篇文章,廣東話文章僅有9000篇左右。
所幸Votee AI在過去10年間,一直從事市場研究、社群聆聽(Social Listening)等業務。過程中收集大量廣東話相關數據,有豐富資源。同時,有本地語言學系教授,以及粵語辭典計劃《粵典》團隊等支援大模型開發。
早前,團隊為虛擬經濟博覽及會議提供AI翻譯服務。陳豪傑憶述,當時有不少內地來賓到場,團隊提供的廣東話翻譯服務,準確率已超過九成。他表示,根據自己之前了解,坊間類似模型準確率在85%左右。現時隨着LLM不斷升級,相信90%將成為平均水準。
採訪、撰文:周泳彤
相關文章:Votee AI|擬攻冷門語 拓東南亞非洲粵語AI大模型
想知道什麼是 Fine-Tuning?:深入了解Fine-Tuning
支持EJ Tech
如欲投稿、報料,發布新聞稿或採訪通知,按這裏聯絡我們。Related Posts
Latest News
-
無人駕駛的士發展深受法規掣肘(方保僑)
早前電動車商特斯拉(Tesla)正式推出其首款無人駕駛的出租車CyberCab,標誌着自動駕駛技術邁向新里程碑。
- Posted October 28, 2024
- 0
-
Apple Intelligence 10.28推出!丨一文了解Apple Intelligence的功能、支援的iOS版本及iPhone型號
人工智能(AI)潮流勢不可擋,蘋果亦終於順應大勢,於10月底推出自家研發的AI模型Apple Intelligence。究竟Apple Intelligence有什麼特別功能?哪個版本的iOS及iPhone支援Apple Intelligence?以下一文你要睇!
- Posted October 28, 2024
- 0
-
Aigens|拓中小企市場 亞太6000店採用
談及這兩年間公司有何變化,Aigens聯合創始人兼首席執行官包逸翰表示,團隊正不斷壯大,已在澳洲、台灣及菲律賓等地設立辦公室,現時共有9個區域辦公室。
- Posted October 28, 2024
- 0
-
Aigens|Aigens夥Adyen推Aigens Pay 掃碼點餐連支付省收銀人手
本地點餐軟件商Aigens近日跟荷蘭電子支付平台Adyen合作,推出電子支付方案Aigens Pay。現時專為香港及新加坡兩地的餐飲、酒店及零售業商戶,提供改善前後台營運的全渠道解決方案。
- Posted October 28, 2024
- 0
-
本地AI法律工具|諮詢平台面世 助解決法律疑難
為輔助市民解決法律疑難,香港搵律師網昨天推出人工智能(AI)法律判斷工具,背後由語言模型GPT-4支持,並針對本港法例進行學習和訓練。
- Posted October 25, 2024
- 0
-
丘成桐|780萬捐中大 設冠名數學教授席
香港中文大學獲清華大學求真書院院長丘成桐教授,慷慨捐贈100萬美元(約780萬港元),為中大數學科學研究所與數學系設立「丘鎮英早期職業數學教授席」。
- Posted October 25, 2024
- 0
-
理大新焊接技術|保持S960鋼材機械性能
S960鋼材比一般S355鋼材輕巧堅固,是建設橋樑的首選建材,惟焊接過程會影響機械性能,令強度和延展性降低達30%。
- Posted October 25, 2024
- 0