當AI遇上雲-Amazon的生成式AI發展策略
隨著生成式人工智慧（Generative AI）的熱潮崛起，包含Google Cloud Platform (GCP)、Microsoft Azure以及Amazon Web Services (AWS)在內的雲端服務供應商紛紛投入競爭，提供各自的方案。儘管微軟已在此競爭中取得先機，但GCP與AWS仍不遑多讓，積極推出各項新產品以迎合市場需求。
生成式人工智慧（Generative AI) 簡介
生成式AI是一種以創建全新內容與概念為特色的AI類型，其核心驅動力源來自被稱為基礎模型（Foundation Models）的大型AI模型，這些模型經由大規模自我監督學習或半監督學習進行訓練，早期的例子如Google的BERT或OpenAI的GPT-n等語言模型，以及應用於視覺或多模態的基礎模型如DALL-E和Flamingo等。這類模型在海量數據訓練的基礎上，能夠根據給定輸入生成對應的新內容。
雖然微軟透過與OpenAI的長期合作並將其整合至雲端服務Azure，成功搭上Chat GPT的熱潮，但在此篇文章中，將介紹另一雲端巨頭-AWS在生成式AI領域推出的產品-專為程式開發者設計的CodeWhisperer。
工程師寫程式的利器-Amazon的CodeWhisperer
Amazon CodeWhisperer是一種AI編碼助手，它可以基於開發者的自然語言註解和他們在整合開發環境（IDE）中的先前代碼，即時的產出程式編寫建議。工程師只需透過註解文字的方式告訴 CodeWhisperer 想要進行的任務，如下面的範例，我希望寫一段程式從yahoo finance 取回Apple公司的股價，因此在註解的部分寫了一段話，告訴CodeWhisperer我們要做的事情是甚麼，接著正常的import相關的套件，這時CodeWhisperer就會實時的提醒開發者可以使用的程式碼，如下圖的情境中，我需要對yahoo finance下API指令，CodeWhisperer讀懂我需要的函數是yf中的download，參數是Apple 股價的 ticker與時間段，因此產生了程式碼推薦。
圖一、Amazon CloudWhisper 自動生成程式碼
圖片來源:本文作者於AWS帳號中的AWS Cloud9環境
圖二、程式輸出畫面
圖片來源:本文作者於AWS帳號中的AWS Cloud9 環境
CodeWhisperer現在支援包括Python、Java、JavaScript、TypeScript、C#等在內的多種語言，還支援新的語言，如Go、Kotlin、Rust、PHP和SQL。並且支援通過AWS Toolkit IDE擴展各種IDE環境來使用 CodeWhisperer。它也具備一些檢查程式代碼的安全性能力，可以自動檢測出一些隱藏的、較難以發現的漏洞，並給出解決問題的建議。
AWS的其他Gen AI產品
Amazon推出Amazon Bedrock與Amazon Titan，提供更便利的途徑來建立與擴展生成式AI應用。Amazon Bedrock是透過API讓使用者獲取第三方AI公司如:AI21 Labs、Anthropic、Stability AI與Amazon的基礎模型輕鬆構建和擴展生成式AI應用，著重於與他人的合作。
另一個產品是Amazon Titan模型，是Amazon即將推出的兩種新大型語言模型(LLM) 。第一種是生成性語言模型，用於文章相關任務，如:摘要文章、生成對話、分類文字、機器問答等任務。第二種是嵌入式語言模型，可以將文本輸入（單詞、短篇文字或大篇幅文本）轉換為包含文本語義的向量表示對於個性化和搜尋等應具有相當的幫助。
Amazon建構中立平台直攻toB市場
AI領域已成為科技巨頭爭奪的焦點。如微軟整合生成式AI至Bing和軟體產品中，而Alphabet則於引擎中添加聊天機器人，主要服務對象為一般消費者。然而，Amazon選擇另外一條路，以吸引企業客戶為目標，建構一個包含多種AI功能的中立平台，以串接各個AI新創的服務為主，避免大規模投資於任一AI新創，如Amazon Bedrock產品線就與多家AI 廠商合作，以串接API的方式將AI服務整合進自己的產品。
資料來源
-
封面圖片來源:https://unsplash.com/photos/t1PaIbMTJIM (Photo by Hitesh Choudhary on Unsplash)
-
https://docs.aws.amazon.com/zh_tw/codewhisperer/latest/userguide/what-is-cwspr.html
-
https://www.chinatimes.com/newspapers/20230417000060-260202?chdt
延伸閱讀