ChatGPT背后藏着数百双眼睛：OpenAI雇数百外包读用户对话训练模型

BiRun 讯，404 Media 获得的内部材料显示，OpenAI 正通过代号「Project Lily」的项目，让数百名外包人员阅读真实用户与 ChatGPT 的对话，用来训练和改进模型。审核员看不到用户名，但可能看到完整对话。有些任务还会附上用户的「记忆摘要」，包括此前聊过什么、可能住在哪里等信息。

这些人会先总结用户想做什么，再比较 ChatGPT 生成的多个回答，并按 1 到 7 分打分。审核重点包括事实是否正确、有没有过度附和用户，以及 ChatGPT 是否把自己说得太像真人。

OpenAI 会先用 Privacy Filter 去除姓名、联系方式等个人信息，但官方也承认这个模型可能漏掉不常见的身份信息和模糊的私人信息。一些敏感内容仍可能出现在审核员面前。

不是所有 ChatGPT 聊天都会被人工阅读。个人版 Free、Plus 和 Pro 默认开启「为所有用户改进模型」，用户关闭后，新聊天不会再用于训练；Business、Enterprise 和 Edu 默认不用于训练。

信源

动察 Beating 频道 · 动察 Beating 交流群。