企业赋予AI代理更多自主权

BiRun 消息，随着企业赋予AI代理更多自主权，即在无人监督的情况下规划、决定和执行跨系统操作，一个棘手的问题出现在每次架构审查的中心：当代理试图执行未经授权的操作时，什么真正能阻止它？这些代理在您的模型上运行，触及您的数据，位于您的基础设施中，而它们所做的事情的责任在于您。这种责任不能在事后或通过一套只存在于纸面上的抽象政策来履行。代理需要在当时的背景下遵守规则，因为它们不能对自己的行为行使最终权限。