英特爾推出可離線產出AIGC的CPU

人工智慧生成式內容（AI-generated contents, AIGC）向來依靠線上互動的模式，由使用者下達提示詞（Prompt），讓位於伺服器端的AI引擎，產出使用者希望的圖文內容；知名CPU大廠英特爾在今（2023）年的Intel Innovation產品發表會上，推出可不依賴網路、能離線產出AIGC的「神經處理單元（Neural processing unit, NPU）」，並成為新一代CPU內建的晶片，讓傳統PC的大腦，有了新的自主思考能力，並使CPU運算能力躍升到新境界。

【案例服務說明】 

常見的AIGC服務，例如ChatGPT互動式問答、CoPilot程式碼自動編輯和校對、MidJourney自動繪圖，這些AIGC服務需要藉由網路連線，並由遠端伺服器的AI引擎，理解使用者輸入的指令和提示詞，加以消化後，才會開始產出AIGC的內容和運算結果。

後來隨著AI晶片的發展，AIGC的運算模組從雲端、伺服器端，逐漸下放到包含PC、手機、物聯網等終端裝置，讓終端裝置有了新的生命和面貌，並在AI運算上減少對遠端中樞伺服器的依賴。

Intel在今年產品發表會發表了新款CPU「Meteor Lake」，其內建AI運算模組的NPU晶片，具備在本機端獨立運行ChatGPT的能力，以及能夠執行Intel的AI開發工具包「OpenVINO」來支援電腦視覺深度學習；Intel NPU晶片也支援離線環境下，自動產生和合成語音和音樂，甚至可以模擬出知名藝人泰勒絲（Taylor Swift）風格的完整樂曲。

資料來源：https://www.youtube.com/watch?v=KRoaF53XmNw

圖 1 Intel NPU自動生成音樂（發表會現場展示）

【應用效益與成果】

Intel表示，有鑑於微軟和輝達早在AIGC領域捷足先登，不甘落後的Intel也應迎頭趕上、重返榮耀，從Intel最擅長的傳統PC領域重新出發，結合CPU高速高效率的運算，以及NPU模組的神奇力量，提供CPU能不依賴網路連線來產生AIGC內容的能力。

Intel在發表會後指出，往後的CPU也會將AIGC模組列為必要的一部份，除了可以強化既有的CPU運算能力外，也能減少對外部網路連線的依賴，將本機端CPU的效能做更有效率的利用。

【FIND觀點】

Intel雖然並非第一個在本機端（終端裝置）內嵌AI運算模組的廠商，在此之前AI運算模組已經在IoT、無人機、智慧型手機、自駕車等領域使用，來強化邊緣運算的能量；而Intel這次將AI運算模組整合進傳統PC的CPU，希望能用相對較為強大的傳統CPU運算能量，來強化AI運算模組的效能，除提升自家技術和產品的競爭力外，也能為使用者提供毋須依靠網路連線的AIGC另類服務。

封面圖片來源: 123RF

參考來源：

參考資料來源

1. Altavilla, D. (2023, September 26). Intel Innovation Event And Meteor Lake Chip Signal A Turnaround Has Begun. Retrieved from Forbes: https://www.forbes.com/sites/davealtavilla/2023/09/26/intel-innovation-event-and-meteor-lake-chip-signal-a-turnaround-has-begun/ 
   
   
2. Intel Newsroom. (2023, September 19). Intel Innovation 2023: Technologies to Bring AI Everywhere. Retrieved from Intel: https://www.intel.com/content/www/us/en/newsroom/news/2023-intel-innovation-ai-everywhere.html 
   
   
3. Krewell, K. (2023, October 4). Intel Breaks New Ground With Meteor Lake. Retrieved from Forbes: https://www.forbes.com/sites/tiriasresearch/2023/10/04/intel-breaks-new-ground-with-meteor-lake/ 
   
   
4. Nellis, S., & Cherney, M. A. (2023, September 20). Intel pitches the 'AI PC' at software developer event. Retrieved from Reuters: https://www.reuters.com/technology/intel-says-newest-laptop-chips-software-will-handle-generative-ai-2023-09-19/ 
   
   
5. Robson, K. (2023, September 20). Intel’s new AI chip runs generative AI chatbots offline. Retrieved from Verdict: https://www.verdict.co.uk/intels-new-ai-chip-runs-generative-ai-chatbots-offline/