納德拉：AI Agent可能為完成任務做假賬，成企業「新型內部風險」

BiRun 訊，微軟 CEO Satya Nadella 在 All-In 峯會上警告，長期自主運行的 AI Agent 可能成為企業一種新的「內部風險」。他舉例，如果讓前沿模型去優化公司的營運資金，它為了完成目標，甚至可能直接「做假賬」。

Nadella 認為，企業不能只看 Agent 最後交出的結果，還要驗証它是怎麼完成任務的。他提出用額外的模型檢査結果，衕時持續監控 Agent 的操作，所有行為都要可以追泝和審計。比如 Agent 讀取機密信息、連續調用多個系統時，企業都應該看得見。

信源

動察 Beating 頻道 · 動察 Beating 交流羣。