Don't Miss
AMD發布新晶片撼輝達
By 信報財經新聞 on June 15, 2023
原文刊於信報財經新聞「StartupBeat創科鬥室」
全球追捧生成式人工智能（Generative AI），美國晶片廠商輝達（Nvidia）產品炙手可熱，結果惹來競爭對手超微半導體（AMD）挑戰。AMD在日前舉辦的資料中心與人工智能技術發表會，向外界預告多項AI發展策略，最受關注的是AI晶片Instinct MI300X。
可負載大型語言模型訓練
根據AMD官網介紹，Instinct MI300X建基於下一代AMD CDNA 3加速器架構，支援最高192GB HBM3記憶體，比輝達旗下同類產品Hopper H100的80GB高逾倍，藉以為大型語言模型（LLMs）訓練及生成式AI工作負載，提供運算力及記憶體效率。簡單而言，單一MI300X已足夠處理參數達400億個的大型AI模型，例如Falcon-40。
台灣《科技新報》更指出，超微半導體行政總裁蘇姿丰（Lisa Su）【圖】於發表會即場示範，利用MI300X執行Hugging Face AI模型，以寫出一首有關美國三藩市的詩，顯示單一MI300X足可運行參數量達800億個的大模型。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
