生成式AI加速惡意軟體自我變異速度，資安專家將採「以毒攻毒」策略
傳統的惡意軟體由於採取人工撰寫，且僅針對特定的漏洞發作，因此較容易預防、封堵、甚至修復。隨著生成式人工智慧（Generative AI）加速軟體開發速度和進程，卻也助長惡意軟體的進化和變異，使得惡意軟體跟人類的病毒一樣能自我變異、甚至失控，讓防毒軟體防不勝防，難以再用傳統方式來應變和對付。
技術發展背景
自從ChatGPT和衍生出來的Copilot發展出能自動撰寫和改寫程式碼的能力後，軟體開發進入了全自動開發的劃時代突破，AI不但會寫程式，而且還會自動偵錯和修正，讓軟體能夠安全穩定運作。
在此同時，駭客也善用生成式AI來開發惡意軟體、發掘漏洞並予以滲透、擴大破壞規模來加劇防禦和復原的難度，讓資安團隊猝不及防。正所謂「魔鬼藏在細節裡」，惡意軟體就藉由惡意程式碼來搞破壞，如果惡意程式碼就像COVID-19病毒一樣能夠不斷自我變異，就會讓防毒軟體用來鑑別惡意程式碼的「病毒碼（Virus signature）」無法偵測到已發生變異的惡意原始碼，並且變異的惡意程式碼也能利用未發掘之漏洞，發動零時差攻擊（Zero-day attack）。
技術介紹與應用現況
2023年，資安團隊HYAS實驗室，為證明生成式AI產生的惡意軟體能讓惡意原始碼自行變異，就以Python（蟒蛇）為基礎，設計了鍵盤側錄惡意軟體「黑曼巴蛇（BlackMamba）」；每次黑曼巴蛇被觸發的時候，會讓自己的惡意原始碼產生隨機變異，並且不會被EDR（Endpoint Detection and Response，端點偵測和回應，一種常見的資安工具組合包）所偵測並觸發應變措施，同時成功用側錄功能蒐集到密碼、信用卡號等機敏資訊。
圖1：BlackMamba利用ChatGPT讓惡意軟體實現自我變異
資料來源： Bond, 2023
另一方面，資安團隊SentinelOne也對BlackMamba提出因應對策，藉由將惡意軟體產出的檔案進行逆向分析，即可了解惡意程式攻擊的途徑與運作模式、惡意程式偽裝和欺騙的方法，然後在惡意程式運作的途徑上部署阻斷點，觸發偵測機制並強制停止惡意程式運作。
SentinelOne團隊即利用即時偵測，將BlackMamba導向到虛擬記憶體上運作，藉此處發動SentinelOne的防禦機制並停止BlackMamba的運作，達到阻斷作用、減少進一步擴大傷害。
圖2：SentinelOne偵測到BlackMakba並使其停止執行
資料來源： Kedem, 2023
未來展望／挑戰
惡意軟體藉由生成式AI來實現自我變異，除了以完美的偽裝欺騙防毒軟體外，也能產生更多種意想不到的攻擊模式，讓防毒軟體窮於應付，迫使防毒軟體必須與時俱進、推陳出新。
未來，資安專家也不排除利用「以毒攻毒」的策略，除了藉由AI來偵測與分析惡意軟體的組成、預測可能的攻擊手段和途徑外，也能藉由生成式AI的高效率和高準確率，及時修補破洞和機敏資訊完整，甚至能跟惡意軟體進行纏鬥，瓦解惡意軟體的威脅。
封面圖片來源: 123RF
參考資料來源:
- Bond, R. (2023, March 24). BlackMamba - The AI-Powered, Keylogging Malware - Explained. Retrieved from Hitachi Systems Securiuty: https://hitachi-systems-security.com/black-mamba/
- Kedem, M. (2023, March 16). BlackMamba ChatGPT Polymorphic Malware | A Case of Scareware or a Wake-up Call for Cyber Security? Retrieved from SentinelOne: https://www.sentinelone.com/blog/blackmamba-chatgpt-polymorphic-malware-a-case-of-scareware-or-a-wake-up-call-for-cyber-security/
- Sims, J. (2023, July 31). Blackmamba: Using AI to generate polymorphic sorftware. Retrieved from HYAS: https://www.hyas.com/blog/blackmamba-using-ai-to-generate-polymorphic-malware
- Tsarfati, O., & Shimony, E. (2023, April 21). ChatGPT: Please write me a polymorphic malware. Retrieved from Hack in the Box: https://conference.hitb.org/hitbsecconf2023ams/session/chatgpt-please-write-me-a-piece-of-polymorphic-malware/
延伸閱讀