2023年2月20日
根據資安公司 CyberArk 旗下研究單位 CyberArk Labs 針對 ChatGPT 所進行的一項研究，顯示出 ChatGPT 如何用於創建多種形態的惡意軟體，這些具有強大破壞能力的惡意程式可以輕鬆規避資安產品並使援救變得十分棘手。雖然 ChatGPT 內建有過濾器，能夠限制某些內容，以保護使用者免受潛在的危害，不過有心人士依然可以繞過這些篩檢機制，讓 ChatGPT 為其產出惡意軟體的程式代碼。詳細驗證過程可以參考此篇文章。其內容重點包括：
CyberArk Labs 的研究人員繞過了 ChatGPT 的內容過濾器，證實了有心人士可以輕輕鬆鬆透過連續使用 ChatGPT來產生程式碼，基本上每次提出詢問都會收到一段獨特的、可運作且和經過驗證（即測試）的程式碼。
這些多種形態的惡意軟體儲存在磁碟內時，並不會表現出惡意行為，而且在記憶體中也通常不會包含可疑的邏輯片段。
這種等級的模組化和適應性，使其能夠高度規避依賴基於特徵偵測（signature-based detection）的資安產品。
