Don't Miss
輝達新晶片提速近倍 攻生成式AI
By 信報財經新聞 on November 15, 2023
原文刊於信報財經新聞「EJ Tech 創科鬥室」
訓練及部署人工智能（AI）模型，圖像處理器（GPU）必不可少。美國晶片廠商輝達（Nvidia）發表新高階晶片HGX H200，標榜以每秒4.8TB速度存取141GB記憶體，為首款GPU配備HBM3e高頻寬能力。與上代產品A100相比，H200記憶體總容量增近一倍，傳輸頻寬亦提高1.4倍，有助加速開發生成式AI及大型語言模型（LLM）。
H200擬明年次季出貨
產品規格手冊指出，處理Meta Llama2 70B等LLM時，H200推理速度比H100 GPU高近一倍。輝達擬明年次季出貨H200，可以應用在各類資料中心，包括本地、雲端、混合雲及邊緣。首批部署H200的雲端服務供應商，除了CoreWeave、Lambda、Vultr，亦包括亞馬遜旗下AWS、谷歌雲、微軟Azure和甲骨文。
輝達另一關鍵產品為GH200 Grace Hopper Superchip，可用於氣候研究、藥物發現、量子運算研究及工業工程等領域。位於德國利希研究中心的新一代超級電腦JUPITER，其增強模組由近2.4萬枚GH200組成，2024年部署後將為AI訓練，釋出超過90 Exaflop/s運算效能，有力問鼎全球最強大的AI系統。
美超級電腦Frontier續稱霸全球
研究組織TOP500周一更新全球500大超級電腦排行榜，美國能源部橡樹嶺國家實驗室（ORNL）與AMD構建的Frontier HPE Cray EX，在高效能Linpack（HPL）項目，以1.194 Exaflop/s蟬聯冠軍，並且是榜上唯一的百億億次級電腦。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
