過去企業導入生成式AI,主要用途多集中在文字生成、知識問答、文件摘要、程式撰寫與決策輔助。即使大型語言模型已能處理複雜任務,多數情況下仍是根據輸入產生內容,真正對企業系統進行操作,通常還是由使用者確認後執行。因此,AI安全過去多半圍繞模型輸入與輸出,例如提示注入、越獄、敏感資訊外洩、幻覺與不當內容。
Agentic AI讓情況開始不同。AI Agent可以根據任務目標自行規劃步驟、調用工具、存取資料、呼叫API,甚至跨越多個企業系統完成工作。當AI開始代表使用者進行查詢、建立文件、修改資料或觸發其他系統操作,它就不再只是資訊提供工具,而是直接參與企業流程。這也讓安全問題往模型之外延伸。企業要處理的,不只是AI輸出了什麼,還包括它在取得工具、資料與系統權限後,實際能做到什麼。
一、Agentic AI推動AI安全從模型走向執行層
二、Agent權限問題形成新的企業安全需求
三、Agent行為防護帶動資安產品能力轉型
四、Agent行為防護改變既有資安市場邊界
五、結論