Satya Nadella:把模型當「內部人風險」,Microsoft 擴充 Project Perception 管住 agent
Microsoft 執行長 Satya Nadella 說,安全控制必須放在模型「外面」,因為企業內部的 agent 就像握有資料與系統權限的內部人。10/19 擴充的 Project Perception 包含:找出公司裡所有 agent、給每個 agent 獨立身分、按任務給最小權限、執行期隔離、持續風險評估,以及會即時收權的 Guardian Agents——風險升高時可限制寫入、要求人工核准或直接停掉 agent。
專家解讀
這個方向是對的,而且是大廠第一次公開說「別指望模型自己守規矩」。真正有用的是按任務給最小權限、高風險動作要人工核准,這把出事責任從「模型夠不夠乖」拉回企業自己的權限設計;代價是 agent 變慢、審批變多,採購方會更傾向整套買 Microsoft。檢查點:半年內若沒有客戶公開「Guardian Agent 攔下真實事故」的案例,它就還只是產品型錄。