開源AI創造經濟價值(車品覺)
本文作者車品覺,為香港科技園有限公司董事、香港大學中國商學院客座副教授、阿里雲資深顧問,為《信報》撰寫專欄「全民大數據」。
早前Meta發布最新的開源大型語言模型Llama 3.1系列,這系列模型包括8B、70B和405B三種參數規模。其中405B參數規模的模型,在多項基準測試表現出色,超越了OpenAI的GPT-4o,並可媲美其他領先的閉源模型,例如Claude 3.5 Sonnet。Meta創辦人朱克伯格表示,Llama 3.1版本是行業的一個轉折點,預示着開源人工智能(AI)將成為未來主流。
在此次發布中,Llama 3.1版本的模型不僅在規模上有所擴展,還增加了上下文窗口的大小,從原來的8K增至128K,擴大了15倍,同時支援8種語言。尤其是405B模型,使用了超過15萬億個Tokens訓練,期間採用了1.6萬顆H100 GPU(繪圖處理器),是首個能達到如此規模的模型。評估了超過150個基準數據集後,Llama 3.1 405B模型在常識推理、操作性、數學等任務的表現,可比擬GPT-4、GPT-4o和Claude 3.5 Sonnet。同時,規模較小的8B和70B模型表現,與其他同等規模的開源和閉源模型不遑多讓。
在實際場景應用中,Llama 3.1 405B模型的整體性能,優於GPT-4o及Claude 3.5 Sonnet。Meta還更新了開源許可,允許開發者使用Llama模型(包括405B)的輸出以改進其他模型。儘管目前圖像、影片及語音整合功能還在開發,並未正式發布,但Meta指未來版本會整合這些功能。
筆者非常認同,開源AI能夠促進創新、降低成本和提高安全性。開發者亦可以利用開源模型來訓練、微調自己的模型,以滿足不同需求。
此外,開源模型的使用成本更低,效率更高,特別在運行推理任務時,成本約為封閉模型的一半,這使開發者能在自己的基礎設施上操作,加強數據安全。
開源AI代表着世界上最大的經濟契機和安全保障,也可以創造更大的經濟價值和更高的全球安全水平。至今為止,所有版本的Llama模型已超過3億次下載量,其廣泛受歡迎的程度和影響力已不言而喻。至於開源與閉源大模型之爭,其實也取決於數據開放程度和算力效率等。
(編者按:車品覺著作《覺悟.大數據》現已發售)
歡迎訂購:實體書、電子書
更多車品覺文章:
支持EJ Tech
如欲投稿、報料,發布新聞稿或採訪通知,按這裏聯絡我們。Related Posts
Latest News
-
智能手機之戰|據報Apple 新iPhone AI初版 缺ChatGPT等功能
彭博科技記者格爾曼(Mark Gurman)報道指,iPhone 16重頭戲是Apple Intelligence,但推出腳步蹣跚,初版將缺少包括ChatGPT的許多功能,Apple Intelligence亦不會在歐盟、中國推出。
- Posted September 9, 2024
- 0
-
福特轉型生產電動車的挑戰(方保僑)
美國福特汽車(Ford)自1903年成立以來,一直以生產高質量的燃油車聞名於世。然而,隨着全球對環保的重視和新能源技術迅速發展,這間百年老字號汽車製造商,面臨空前挑戰。
- Posted September 9, 2024
- 0
-
電動車之戰|馬斯克否認xAI分享Tesla自駕技術收入
特斯拉行政總裁馬斯克否認他個人控制的人工智能(AI)初創企業xAI與特斯拉洽談分享科技及分攤相關收入的傳聞。
- Posted September 9, 2024
- 0
-
Snaildy|招攬IT人才看重理念相同
本地教育科技初創Snaildy(樂旼共融教育),兩位創辦人劉樂健及羅偉業,均不具備科技背景,因此渴求資訊科技(IT)人才加盟。
- Posted September 9, 2024
- 0
-
Snaildy|SEN管理系統減教師負擔 AI簡化文書處理 與學生家長互通
香港城市大學HK Tech 300天使基金支持初創Snaildy(樂旼共融教育),開發「特殊資優中央資料庫系統」,配合人工智能(AI)技術,數碼化形式管理SEN學生資料,讓師生及家校實現資訊互通。
- Posted September 9, 2024
- 0
-
AI融入學習 須掌握三大程式(黃岳永)
還記得2022年底美企OpenAI推出ChatGPT後,教育界對是否在教育中應用人工智能(AI)態度兩極。眨眼間ChatGPT面世接近兩年,學校也知悉AI對下一代的重要性。
- Posted September 6, 2024
- 0
-
2G服務將告終 全面迎接5G(林國誠)
2G流動通訊服務曾經在九十年代末期,為電訊業帶來翻天覆地的變化,讓大眾首次享受到流動通話、短訊和基本的數據服務。2G流動網絡的出現,更直接令流動通訊服務在香港得以普及,打好香港領先全球流動通訊領導地位的基礎。
- Posted September 6, 2024
- 0