OpenAI推「零数据留存」,矛头直指Anthropic的30天政策
BiRun 讯,OpenAI 预览新服务 Private Safety Processing,让符合条件的企业和 API 客户在使用前沿模型时,仍能保持零数据保留。系统可以跨多轮对话检查潜在滥用,但 OpenAI 员工看不到客户的 prompt 和模型回复。
客户数据可以继续留在自己的服务器。也可以存在 OpenAI,但由客户自己的密钥加密,OpenAI 拿不到密钥。系统发现风险后,只会向 OpenAI 返回一个有限的安全信号,例如检测到哪类可疑活动,不会把原始对话一起交过去。
这正好打在 Anthropic 的一个争议点上。Fable 5 和 Mythos 5 要求保留用户输入和模型输出 30 天,用来检查跨多次请求的攻击行为。微软此前还因为这一政策限制员工使用 Fable 5。Anthropic 认为留数据是做好安全监控的必要代价,OpenAI 现在则想证明两件事可以同时做到。
Private Safety Processing 目前只在少量客户中测试,OpenAI 计划 9 月开始推出,并发布技术白皮书。普通 ChatGPT Free、Plus、Go 和 Pro 用户不在这套 ZDR 方案里,现有数据设置不会因此改变。
OpenAI
客户数据可以继续留在自己的服务器。也可以存在 OpenAI,但由客户自己的密钥加密,OpenAI 拿不到密钥。系统发现风险后,只会向 OpenAI 返回一个有限的安全信号,例如检测到哪类可疑活动,不会把原始对话一起交过去。
这正好打在 Anthropic 的一个争议点上。Fable 5 和 Mythos 5 要求保留用户输入和模型输出 30 天,用来检查跨多次请求的攻击行为。微软此前还因为这一政策限制员工使用 Fable 5。Anthropic 认为留数据是做好安全监控的必要代价,OpenAI 现在则想证明两件事可以同时做到。
Private Safety Processing 目前只在少量客户中测试,OpenAI 计划 9 月开始推出,并发布技术白皮书。普通 ChatGPT Free、Plus、Go 和 Pro 用户不在这套 ZDR 方案里,现有数据设置不会因此改变。
OpenAI
评论
0/500
登录 后参与讨论
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯