科大自研AI機械人專聊金融 生成投資意見 上傳文件檢索
原文刊於信報財經新聞「EJ Tech 創科鬥室」
在本港,如要使用聊天機械人ChatGPT,可透過VPN(虛擬私人網絡)連線,已不是什麼秘密。若有本地研發的人工智能(AI)工具,相信能加快各行各業部署。
香港科技大學昨宣布,開發針對財經投資的聊天機械人InvestLM,聲稱回答金融領域問題時,質素不但媲美ChatGPT,更能有效保證數據安全,冀助金融界提升工作效率;研究發表在論文預印本網站arXiv。
InvestLM的模型參數,已上傳至軟件代碼託管平台GitHub,供免費下載試用,惟暫支援英文問答功能。研究團隊成員之一、科大商學院資訊、商業統計及營運學系副教授楊毅,即場示範InvestLM兩個主要功能:聊天和檢索。前者可分析財經新聞並生成投資意見;後者能分析用戶上傳的文件,為資料提取、總結,亦能自由選取多份財務報表類文件,比對當中趨勢等。
內部運行數據不外洩
楊毅重申,儘管用戶可以向InvestLM詢問投資意見,但不應視此為明確的投資建議,只宜作參考。此外,以聊天功能隨意提問時,InvestLM有機會憑空捏造答案;惟如果使用檢索功能,InvestLM的「知識界限」會嚴格限制在用戶提供的資料內,不會出現「AI幻覺」。
除了VPN這一技術限制外,很多人也關心私隱問題。楊毅強調,由於InvestLM為開源模型,任何人都可以把它下載到自家伺服器,在公司內部運行;用戶與InvestLM之間的所有對話內容不會傳輸至科大。此舉有效保障金融機構自身利益,確保其營運數據不會外洩。
建基Meta開源大模型
團隊以Meta開發的大語言模型LLaMA-65B為基礎,再透過指令微調技術,利用公開資料作為訓練參數,例如特許金融分析師(CFA)考試題目、教科書、學術期刊、美國證交會(SEC)申報文件等加以訓練。科大資料顯示,所研模型在控制「AI幻覺」的能力勝過LLaMA;於金融領域的問答表現,亦和GPT-3.5、GPT-4及Claude-2等不相上下。
被問及後續收費和商業化計劃,科大商學院院長譚嘉因表示,大學有責任向社會分享其學術研究成果,未來的確有商業化的機會,或會因應客戶客製化需求收費,惟這並非項目的首要目標。楊毅補充,現時有2至3間本地大型金融機構,透露有意使用InvestLM,目標到今年底,每月下載量達10萬次。
採訪、撰文:周泳彤