爆炸性成長的AIGC 帶動資料中心的使用量攀升



 

AI生成式內容(AI-generated contents, AIGC)由於要使用大量的硬體資源來支持運算,往往會運用到資料中心較為豐沛的基礎設施,才能產生龐大且完整的資料。另外,隨著AIGC運用日漸普及,資料中心使用量也因為AIGC發展的趨勢而連帶成長,而AIGC提供者也為了支持資料中心使用開銷,向使用者提供各式各樣的付費服務創造收益,讓逐漸擴充中的資料中心,能應付不斷增長的AIGC使用量。

自從雲端、5G、AI、物聯網等先進技術開始發展後,這些服務所依存的資料中心也正在成長;而資料中心不只是存放資料而已,也因為資料中心內建強大的CPU、GPU、寬頻網路,而肩負起大量連線、大量運算的重擔。

藉由擴充資料中心來支持AI運算和資料生成,也是一種資金和能源挹注都很密集的浩大工程,為因應AIGC使用者和使用量的成長,資料中心也需要不斷擴充、不斷創造利潤,才能讓AIGC的質和量都能與日俱增、與時俱進。

2028年AIGC成本將攀升至76億美元

依據富比世雜誌引述研究機構Trias Research指出 (McGregor, 2023),支持AIGC運作的資料中心,全球運作成本將在2028年增長到76億美元,為當今佔全球1/3資料中心市佔率的AWS年度運作成本的2倍;Trias的研究也指出,硬體運算效能將成長4倍,但AI運算的負載量卻暴增50倍;為解決此一問題,AI需要發展出自行推演如何讓機房負載最佳化的能力,來增加單一伺服器的服務能量、減少基礎設施負擔。

另根據研究機構JLL指出 (Beets, 2023) (Kalinoski, 2023),AWS/Azure/Google/Oracle四大機房業者在2018~2022年間,收益從900多億美元成長到破2,000億美元,複合年均成長率(CAGR)達22.8%;供AIGC使用的全美資料中心,從2019年首季到2023年首季,能耗從2億瓦成長到突破10億瓦,資料中心提供的電量從2.5億瓦成長到30億瓦。

 

資料來源: (Kalinoski, 2023)

圖 1 AIGC依存之雲服務供應商利潤成長趨勢

 

資料來源: (Kalinoski, 2023)

圖 2 全美資料中心能耗使用幅度成長趨勢

應思考如何運用新技術降低能耗 

AIGC繼5G、IoT、雲端之後,成為新的資料中心的能耗來源之一,為AIGC提供服務的雲端服務供應商(Cloud service providers, CSP)也要考量AIGC使用量不斷攀升,對資料中心運作和穩定性的預期影響;近期又隨著ESG、節能減碳等意識興起,CSP也要考量如何開發新的技術,來減少資料中心的能耗,且不致犧牲AIGC應有的效率和效能,持續為AIGC使用者提供便利性;CSP也能善用付費加值服務的特性,讓AIGC使用者跟CSP共同改善AIGC服務與後台資料中心的效率和效能。

 

封面圖片來源: 123RF

參考資料

  1. Beets, K. (2023, August 24). North America Data Center Report H1 2023: Record demand meets limited supply. Retrieved from JLL: https://www.us.jll.com/en/trends-and-insights/research/na-data-center-outlook 

  2. Kalinoski, G. (2023, August 29). AI Drives Explosive Growth in Data Center Demand. Retrieved from Commercial Property Executive: https://www.commercialsearch.com/news/ai-drives-explosive-growth-in-data-center-demand/
     
  3. McGregor, J. (2023, May 12). Generative AI Breaks The Data Center: Data Center Infrastructure And Operating Costs Projected To Increase To Over $76 Billion By 2028. Retrieved from Forbes: https://www.forbes.com/sites/tiriasresearch/2023/05/12/generative-ai-breaks-the-data-center-data-center-infrastructure-and-operating-costs-projected-to-increase-to-over-76-billion-by-2028/ 

  4. Morrison, A. (2023, September 25). How AI growth has triggered data center redesign. Retrieved from Data Science Central: https://www.datasciencecentral.com/how-ai-growth-has-triggered-data-center-redesign/ 

  

 

 

 

 

 

 

 

 

 

延伸閱讀