台灣科技週刊
搜尋
AI

AI Agent 的安全盲點:我們交出去的,究竟是任務還是權力?

當人工智慧開始代替人操作軟體,安全問題就不再只是回答是否正確。更難處理的是:一個被要求完成任務的系統,能否分辨「有助於達成目標」與「使用者確實授權」之間的差別?從近期披露的研究環境事件,到提示注入的防禦實驗,值得關注的不是抽象的「AI 失控」,而是企業如何避免把一項有限委託,變成一張沒有寫清楚邊界的授權書。