Don't Miss
AI運算添環保 減驚人食電用水量
By 信報財經新聞 on May 22, 2023
原文刊於信報財經新聞「StartupBeat創科鬥室」
生成式人工智能（Generative AI）當道，像聊天機械人ChatGPT之類的內容生成工具，已成為不少人生活及工作一部分。然而，AI涉及龐大的數據運算，衍生的能源消耗問題，遠超一般網絡活動，例如瀏覽網頁、利用搜尋引擎找資料等。
混合式多雲解決方案供應商NetApp香港及澳門區域總經理鄧子安接受查詢時解釋，AI模型由海量數據訓練而成，當數據放進AI模型學習時，需要強大運算力配合。當數據中心的電力消耗大增，自然需要更多水源散熱。
AI所造成的能源消耗問題漸受關注，早前美國加州大學河濱分校，以及得州大學阿靈頓分校一項共同研究指出，在訓練GPT-3等大型語言模型（LLM）時，需要耗水多達18.5萬加侖（約70萬公升），跟注滿核反應堆冷卻塔所需的水量相若。
NetApp助壓縮數據
根據兩間大學的研究，當一個用戶向採用GPT-3模型的ChatGPT發出25至50條問題時，ChatGPT便需要大約500毫升的水來完成指令。如今LLM已提升至參數量更大的GPT-3.5甚至GPT-4，加上各式生成式AI工具愈趨普及，運算力、水及能源消耗只會有增無減。
鄧子安又指出，訓練AI模型需要大量儲存空間，以容納數據。即使完成訓練，數據也需要繼續儲存而不能丟棄，「因為日後可能重新應用於訓練其他AI模型」。
他透露，NetApp服務之一，是協助客戶壓縮數據，減少數據佔用空間，以及所涉的「環境足跡」（Environmental Footprints）。
NetApp建議，企業如果想減少科技及數據相關的環境足跡，可以評估本地（on-premise）及雲端數碼科技資源的使用情況、分析數據的方式，並通過遷移、備份及分層，把適當的數據移動到雲端。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
