AI之戰｜Nvidia 新AI晶片提速30倍
原文刊於信報財經新聞「EJ Tech 創科鬥室」
美國晶片巨頭輝達（Nvidia）昨於加州聖荷西召開GTC 2024大會，行政總裁黃仁勳在會上介紹最新人工智能（AI）超級晶片GB200，其採用台積電4納米（4NP）製程，包含兩個Blackwell GPU（圖像處理器）及一個採用ARM架構的Grace CPU（中央處理器），推理模型性能比H100大幅提升30倍，成本及能耗降至25分之一，計劃今年稍後正式出貨。
Blackwell架構以數學家David Harold Blackwell命名，配合NVLink 5.0介面可擴展至576個GPU。輝達還推出完整的伺服器產品線，以大型超級運算產品GB200 NVL72為例，提供36個CPU及72個Blackwell架構GPU，備有一體水冷散熱方案，可實現總計720 petaFLOPS的AI訓練性能，或1440 petaFLOPS的AI推理性能，單機即可支援規模達27萬億組參數的模型。
人形機械人基礎模型亮相
輝達還把自家元宇宙開發平台Omniverse，引入蘋果混合實境（MR）眼罩Vision Pro，將雲端運算結果串流至裝置中。現場亦亮相通用基礎模型Project GR00T，透過AI強化人形機械人訓練，能自主觀察人類行為，即時模仿特定任務，大幅簡化機械人學習過程。另一方面，輝達推出Earth-2雲端平台，利用AI超級電腦模擬技術，預測整個地球的氣候變遷。
為了推動全球企業應用生成式AI，輝達與德國軟件商SAP擴展夥伴關係，雙方正合作建設和交付SAP商業AI，包括在SAP Joule數碼副駕及SAP雲端解決方案和應用中，加入由SAP生成式AI中心支援的可擴展、為特定業務而設的生成式AI功能。
此外，SAP將利用輝達的生成式AI foundry服務，協助微調大型語言模型，並使用全新Nvidia NIM微服務來部署應用，料今年底前推出這些整合新功能。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
