隨著生成式人工智慧在各行各業展現出驚人的生產力，這股科技浪潮也無可避免地吹向了駭客與網路犯罪者的陣營。此篇文章將帶領讀者深入探討知名 AI 先驅企業 Anthropic 最新發布的 AI 輔助網路威脅分析報告，揭露攻擊者如何將 AI 當作新型態的武器，導致網路攻擊的風險與頻率同步飆升。透過文章的詳細拆解，讀者將能清晰了解 AI 技術在網路安全領域所引發的全新攻防戰，以及安全防護機制如何隨之進化。
在這份極具關鍵指標意義的報告中，Anthropic 針對特定期間內因違反使用政策而遭停權、且具備足夠活動細節的800多個帳號進行了深度分析。此篇文章指出，在過去短短不到一年的時間裡，判定為中度風險以上的 AI 輔助網路攻擊者占比，竟然從原本的33.5%大幅攀升至56.1%，成長幅度高達約1.7倍。這項數據背後傳達出一個令人憂心的訊號，亦即人工智慧正在顯著降低駭客執行複雜攻擊行動的技術門檻。文章進一步說明，目前大多數的攻擊者主要將 AI 模型應用於攻擊行動的準備與部署階段。若對應至國際資安框架，其中以用來開發攻擊能力的比例最高，將近有七成的攻擊者尋求 AI 協助；其次則是用於檔案或資訊混淆，以及從本機系統蒐集資料與削弱防禦機制等行為，皆有超過半數的占比。相較之下，利用 AI 進行入侵後橫向移動的比例雖然極低，但文章強調，一旦出現此類自主性更高的攻擊行為，通常意味著 AI 對攻擊的實質助益更大，隨之而來的整體威脅風險也更為致命。
然而，當前的資安防禦體系是否足以應對這波 AI 浪潮下的新型態威脅，是此篇文章帶給產業界最深層的省思。文章詳細提到，Anthropic 將上萬筆惡意活動觀察結果對應至現行的 MITRE ATT&CK 資安框架時，發現了現有防禦架構的局限性。目前主流的資安框架，其實難以完整涵蓋 AI 代理自主串接攻擊流程，以及在攻擊過程中即時調整方向的新型態行為。面對這種防禦盲點，文章也為讀者帶來了積極的因應對策，Anthropic 已根據這項分析結果，主動更新了旗下 AI 模型 Claude 的內建分類器與偵測機制，並正與相關資安組織合作，研擬如何將 AI 原生的攻擊行為納入未來的資安防禦框架中。這不僅是一份警示報告，更是引導讀者思考在人工智慧時代如何重塑數位韌性與資安思維的重要指引。
