You are currently at: ejtech.hkej.com
Skip This Ads
Don't Miss

AMD發布新晶片撼輝達

By on June 15, 2023

原文刊於信報財經新聞「StartupBeat創科鬥室

單一MI300X已足夠處理參數達400億個的大型AI模型。(Twitter網上圖片

全球追捧生成式人工智能(Generative AI),美國晶片廠商輝達(Nvidia)產品炙手可熱,結果惹來競爭對手超微半導體(AMD)挑戰。AMD在日前舉辦的資料中心與人工智能技術發表會,向外界預告多項AI發展策略,最受關注的是AI晶片Instinct MI300X。

可負載大型語言模型訓練

根據AMD官網介紹,Instinct MI300X建基於下一代AMD CDNA 3加速器架構,支援最高192GB HBM3記憶體,比輝達旗下同類產品Hopper H100的80GB高逾倍,藉以為大型語言模型(LLMs)訓練及生成式AI工作負載,提供運算力及記憶體效率。簡單而言,單一MI300X已足夠處理參數達400億個的大型AI模型,例如Falcon-40。

台灣《科技新報》更指出,超微半導體行政總裁蘇姿丰(Lisa Su)【圖】於發表會即場示範,利用MI300X執行Hugging Face AI模型,以寫出一首有關美國三藩市的詩,顯示單一MI300X足可運行參數量達800億個的大模型。

蘇姿丰在發表會即場介紹AI晶片。(Twitter網上圖片
Instinct MI300X支援最高192GB HBM3記憶體。(網上圖片)

支持EJ Tech

如欲投稿、報料,發布新聞稿或採訪通知,按這裏聯絡我們