生成式AI的Token訓練成本降低,掀起削價競爭,從藍海殺成紅海

post image

生成式AI藉由將圖文資料轉化為量化單位「Token(權杖、令牌)」,作為AI訓練量的單位,也能衡量生成式AI的訓練成本;但在ChatGPT推動訂閱制以價制量,以及DeepSeek掀起全球AI訓練量Token的削價競爭後,促使各家業者針對Token的訓練成本斤斤計較,不遺餘力爭取世界各地的客戶導入採用生成式AI方案,並確保繼續在市場上立足的競爭力,令曾為處女地的藍海市場,變成各家AI業者捉對廝殺的紅海。

【趨勢發展背景】

生成式AI系統的營運成本,不光是基礎設施運作所需的人力水電,以及跟雲端服務類似的計價模式(例:資料流量、雲端容量、頻寬、系統負載人數),還有資料訓練的Token數量,作為生成式AI服務的定價策略。資料訓練量通常以每一百萬Token為單位換算為等值貨幣,也限制了使用者在一定時間內的最大使用量;使用者若要解除限制,就得付費購買更多的Token額度,作為生成式AI服務的營利模式。

【產業趨勢說明】

Google Gemini模型的Token訓練成本為例,每百萬Token呼叫量的成本,從2023年第二季的4美元(當時折合新臺幣118.94元),於2024年第三季降低到0.12美元(當時折合新臺幣3.8742元),在一年半期間內的Tokem訓練成本美元降幅達97% (Kedrosky, 2024)

 1Google Gemini Token呼叫量價格趨勢(2023第二季~2024第三季)

資料來源: Kedrosky, 2024

另一方面,OpenAIGPT-4家族的Token呼叫量(輸入輸出各100萬,總和200萬計),從20234月的180美元(當時折合新臺幣5,527.8元),於20247月降低到0.75美元(當時折合新臺幣24.675元),在一年半期間內的Token訓練成本美元降幅達240 (Jaipuria, 2024)

 2GPT-4 Token呼叫量價格趨勢(20234月~20247月)

資料來源: Jaipuria, 2024

【未來展望/挑戰】

生成式AIToken呼叫費用逐年降低,也成為一股趨勢,令生成式AI市場因百家爭鳴而殺成紅海;而生成式AI隨著資安意識抬頭、地緣政治加劇而變成一種戰略性資產的投資。在隨著Token呼叫費用下跌令生成式AI普及化的同時,也應搭配一些更進階的安全措施與完整功能權限,並搭配訂閱制、隨選租用等營利策略,確保AI能被可信任的使用者掌握在可控範圍內,帶來經濟實惠又兼顧安全性的正面效益。

封面圖片來源:ChatGPT生成

參考資料來源:

  1. Jaipuria, T. (2024, November 4). The plummeting cost of intelligence. Retrieved from Wing.vc: https://www.wing.vc/content/plummeting-cost-ai-intelligence
  2. Kedrosky, P. (2024, September 22). What If AI Tokens Are Too Cheap to Meter? Retrieved from Paul Kedrosky: https://paulkedrosky.com/what-if-ai-tokens-are-too-cheap-to-meter/

李啟榮

2025-05-27

分享: 0 瀏覽量: 402