資策會數位轉型研究院─FIND中心

生成式 AI（Generative AI）與大型語言模型（large language models, LLMs）在全球快速普及，使 AI 從單純的演算法工具轉變為影響企業營運流程的重要能力。企業越來越常以 AI 應用於客服服務、流程自動化、智慧助理、營運決策與資料分析等情境。然而，隨著 AI 使用場景快速擴張，AI 本身的攻擊面也逐漸成形，並顯示出與傳統資訊安全完全不同的威脅模式。

根據 NIST《AI Risk Management Framework》指出，AI 系統在模型層級（model-level）與推論層（inference layer）均可能遭受到新型態攻擊，包含提示注入（prompt injection）、模型操控（model manipulation）、資料外洩與 AI agent 行為偏離等風險。MITRE ATLAS（Adversarial Threat Landscape for AI Systems）同樣揭示 AI 在推論階段具有高度可被攻擊性，且傳統資安工具無法直接防禦此類威脅。

在此背景下，企業亟需建立一套能夠專門針對 AI 運行層的安全防護機制。CalypsoAI 正是在此需求下發展，其技術能補足 AI 系統在運行期的安全缺口，並提升 AI 的可控性、可稽核性與可信度，使企業能在導入 AI 的同時避免承受無形的風險。

【服務內容】

隨著企業在實務應用中同時導入多個生成式 AI（Generative AI）、大型語言模型（LLM）與 AI 應用服務，AI 系統往往分散於不同部門、不同平台與不同技術架構中，形成「多模型、多應用並行」的運作環境。在此情境下，若缺乏集中管理與一致的安全機制，容易導致安全政策不一致、風險難以追蹤，進一步提升治理與維運的成本。

CalypsoAI 因應上述需求，提供一套集中式的 AI 安全平台（Inference Platform），作為企業管理生成式 AI 與 LLM 的核心系統。該平台本身為單一系統架構，透過統一介面集中控管 AI 的安全測試、運行防護與審計監測，並可整合不同模型供應商與部署環境，建立一致的 AI 安全與治理基礎。

在平台架構上，CalypsoAI 的 AI 安全平台內建三大核心運作模組，分別對應 AI 在不同階段的安全需求。首先為，紅隊測試模組（Red-Team Testing），用於在 AI 上線前或運作期間，模擬真實攻擊情境，主動測試生成式 AI 與 LLM 在推論階段可能遭受的風險，包括 prompt 注入、模型越權行為與資料誘導外洩等情境，協助企業及早辨識潛在弱點。

其次則為運行期防護模組（Runtime Defense），負責 AI 實際運作時的即時安全防護。該模組可監控 AI 的輸入與輸出內容，阻擋不當指令、越權操作或可能導致敏感資料外洩的行為，並透過政策設定（policy enforcement）限制 AI 的運作邊界，使 AI 始終在企業規範內運行。

第三為審計與監測模組（Observe & Audit），提供集中式的 AI 行為記錄與安全監測能力。平台可完整保存 AI 的互動紀錄與安全事件軌跡，協助企業建立可追蹤、可稽核的管理基礎，並支援內部治理、法規遵循與外部稽核需求。

此外，CalypsoAI 另行建置模型安全評估機制，如 CASI（CalypsoAI Security Index）與 AWR（AI Weakness Rating），以量化方式比較不同生成式 AI 模型在安全性、風險與效能上的表現。此評估機制屬於決策支援與模型選擇工具，與 AI 安全平台內建的運作模組層級不同，主要協助企業在模型導入前納入安全性考量，而非即時防護用途。

透過上述平台與模組整合，CalypsoAI 能協助企業在多模型、多應用的環境中，以單一平台建立一致的 AI 安全政策與治理架構，降低跨系統管理的複雜度，並提升生成式 AI 在企業中長期運作的安全性與可信度。

圖 1：Calypso AI統一式AI安全平台介面示意 - 呈現Calypso AI 以「測試（Test）、防護（Defend）、監測（Observe）」為核心的生成式AI安全平台架構，協助企業即時管理與控管AI運作風險。

圖片來源：Calypso AI官方網站

圖 2：CalypsoAI 模型安全評估排行榜（CASI／AWR）－顯示 CalypsoAI 針對不同生成式 AI 模型進行安全性與風險評估的排行榜結果，協助企業在模型選擇時納入安全指標。
圖片來源：CalypsoAI 官方網站

【應用效益】

CalypsoAI 的導入，能使企業在採用生成式 AI 或 LLM 時同步兼顧創新與安全。平台透過推論層的即時防護與安全檢測，降低 AI 所產生的不當輸出、資料外洩或模型遭操控的可能性，使企業不需再以「開放自動化能力」換取「安全風險」。

在 AI 建置與使用過程中，CalypsoAI 的對抗測試與持續監控可協助企業在風險發生的初期就偵測異常行為，避免問題進一步惡化為攻擊事件或導致營運中斷，亦能減少企業在資安事件後需承擔的成本與品牌損害。透過這樣的「預防性治理」模式，AI 的操作與部署更具可控性。

平台提供的審計能力，讓 AI 的運作方式具備透明度，使企業能掌握 AI 如何回應、依據哪些訊息做出生成，以及是否在不當情境下表現異常。此特性對法律遵循、稽核流程、資安治理與外部監管審查都具有高度價值。

CalypsoAI 採用的模型無關架構，使企業能在多模型、混合部署的情況下保持一致的安全標準，不論 AI 系統如何擴展，都能持續維持相同程度的安全性、治理能力與運作效率。

【創新點】

CalypsoAI的創新來自於技術、流程與治理三個層面的整合。

於技術層面，CalypsoAI重新定義AI的攻擊面，從傳統系統防護延伸至模型本身，將prompt、輸入內容、推論過程與AI agent行為納入安全管理範圍，讓企業能針對AI的「行為層」建立安全邊界。

於流程面，平台將模型選擇、測試、部署到推論期安全串成完整流程，使AI不再只是應用工具，而是具備全生命週期治理（life-cycle governance）的安全體系。

於治理層面，CalypsoAI所提出的模型安全評分機制，使AI的安全性可被量化、比較並納入決策，使企業能以更科學方式管理AI風險。

【FIND觀點】

隨著AI技術愈趨普及，企業對AI的依賴程度也日益提升，而AI的可信度、可治理性與安全性將成為企業推動數位轉型的重要基礎。CalypsoAI所提供的技術，正好填補生成式AI在推論層的防護缺口，使企業能夠在既有的AI系統上增添可控性、透明性與審計能力。

對臺灣企業而言，尤其是金融、製造、政府服務與企業級AI應用領域，建立AI安全治理架構已非選擇題，而是必須面對的趨勢。CalypsoAI的架構具備彈性、可整合性，適合作為示範案例，協助臺灣產業瞭解如何將AI安全納入企業治理核心。

FIND團隊認為本案例對我國推動AI應用具指標性價值，無論在法遵、安全或永續治理方面皆具有高度參考意義。

【公司簡介】

CalypsoAI成立於2018年，為美國AI資安領域的重要企業，專注於推論層安全（inference-layer security）與AI治理解決方案。公司於2025年由F5 Networks完成併購，成為F5在AI應用安全與智慧化服務中的核心技術組件。F5表示將整合CalypsoAI的推論層安全能力到其應用交付平台中，使企業在導入生成式AI、AI agent及LLM應用時能同時具備安全性與可性度。

CalypsoAI的使命為協助企業提升AI系統的可控性與透明度，讓生成式 AI 能以安全、可信且可治理的方式融入企業營運。

守護模型的無形戰線：CalypsoAI引領企業進入AI安全新時代

守護模型的無形戰線：CalypsoAI引領企業進入AI安全新時代