首頁電子資訊資訊軟體

企業AI安全新焦點—Agent行為防護

300元/點
字數 2862
頁數 4
出版作者 徐暐釗
出版單位 資策會MIC
出版日期 2026/09/30
出版類型 產業評析
所屬領域 資訊軟體
瀏覽次數 43
加入購物車 直接下載 直接下載 加入最愛
摘要

過去企業導入生成式AI,主要用途多集中在文字生成、知識問答、文件摘要、程式撰寫與決策輔助。即使大型語言模型已能處理複雜任務,多數情況下仍是根據輸入產生內容,真正對企業系統進行操作,通常還是由使用者確認後執行。因此,AI安全過去多半圍繞模型輸入與輸出,例如提示注入、越獄、敏感資訊外洩、幻覺與不當內容。

Agentic AI讓情況開始不同。AI Agent可以根據任務目標自行規劃步驟、調用工具、存取資料、呼叫API,甚至跨越多個企業系統完成工作。當AI開始代表使用者進行查詢、建立文件、修改資料或觸發其他系統操作,它就不再只是資訊提供工具,而是直接參與企業流程。這也讓安全問題往模型之外延伸。企業要處理的,不只是AI輸出了什麼,還包括它在取得工具、資料與系統權限後,實際能做到什麼。

內文標題/圖標題/表標題

一、Agentic AI推動AI安全從模型走向執行層

二、Agent權限問題形成新的企業安全需求

三、Agent行為防護帶動資安產品能力轉型

四、Agent行為防護改變既有資安市場邊界

五、結論

上一篇異質運算發展下矽智財與ASIC...
下一篇機能性紡織品生質整理技術之應用...
熱門點閱
推薦閱讀
推薦新聞

若有任何問題,可使用下方檢索互動介面找解答,或是寫信到客服信箱。

itismembers@iii.org.tw

星期一~五
9:00-12:30/13:30-18:00