AI 冒充人类写作正在污染互联网，Substack 决定把判断权交给读者

BiRun 消息，作者：Chris Best 编译：深潮 TechFlow 深潮导读： 社交媒体上高达 40% 的内容已经是 AI 生成，但读者往往不知情。Substack 认为这种 "Claudefishing"（冒充人类写作）正在破坏读者与作者之间的信任，威胁内容创作者的生计。他们的应对方式是：让读者自己判断，而不是平台替你决定。 真假难辨的互联网现在要分辨互联网上什么是真实内容越来越难了。 这个问题在 Substack 上相对较轻，我们希望保持这样。作为第一步，我们今天在 Substack 应用中与 Pangram 合作推出了一项功能。今后，你可以扫描文本，查看其中有多少可能是手写的，有多少是在 AI 辅助下完成的。我稍后会详细说明，但首先让我解释一下为什么这很重要。 到处是水，却没有一滴能喝根据 Pangram 的估计，某些平台上由 AI 生成的文本比例正在上升，高达 40%。这是一个巨大的变化。许多人抱怨他们的信息流充满了毫无灵魂的垃圾内容。还有些人甚至没意识到自己正在阅读无人创作的东西。 核心问题不在于人们使用 AI, 也不在于 AI 输出的质量。并非所有用 AI 制作的内容都是垃圾，也不是所有垃圾都是 AI 制作的。问题在于当读者的预期与现实不符时，尤其是当他们在不知情的情况下将注意力投入到背后没有任何人类思考的内容时。这就是 Claudefishing。 Freddie deBoer 是这样说的： 我接触人类创作的艺术，是因为我知道背后有一个人，这正是我在寻找的 —— 其他人，通过艺术向我展示他们隐藏在自我中的东西。在这个过程中欺骗我，不过是一场骗局。 我们在 Substack 关心这个问题，是因为它触及了我们工作的核心:为文化建立经济引擎。这意味着帮助真实的人——那些思考、感受、观察、争论、实验、考虑、挣扎、劝诫和关心的人——通过他们相信的工作赚钱。这个网络建立在人与人之间的信任之上，这就是它有效的原因。 当无人创作的内容占领了本应属于人类的互联网部分时，它污染了公共空间，让人难以发现和听到人类的声音。当读者不得不怀疑他们正在阅读的内容是否真实时，这会破坏对作者身份的信任，并威胁作家的生计 —— 包括那些深思熟虑地使用 AI 工具来创作他们相信的作品的人。奖励虚假内容的平台将引发逐底竞赛。 我们正在做什么这是一个新兴领域，我们不敢说有所有答案。但我们确实知道的一件事是，我们不想等到你的 Substack 应用变成 LinkedIn 之后才开始学习和取得进展。所以首先，我们推出了一些新工具，希望能提高透明度，并为我们征求你的反馈打下基础。 我们正在与领先的 AI 检测工具 Pangram 合作。你将能够扫描笔记、回复、评论和帖子，查看其中有多少文本是手写的或在 AI 辅助下完成的估计值。这将适用于从今天起发布的超过 100 个单词的文本，并且只会向请求查看的人显示分析结果。 图：Substack 与 Pangram 合作的 AI 检测工具界面，可显示文本由人类撰写与 AI 辅助的比例。来源：Substack 请注意，Pangram 只能检测是否使用了 AI 来制作文本，而不能检测创作时是否投入了大量人类心血，也不能检测是否使用 AI 工具作为来源。它并不完美，但独立研究表明，它能以很高的准确度检测 AI 生成的文本。我们相信，人们使用这样的工具来帮助自己做出判断是有益的。 我们还为创作者推出了工具，包括添加 "我如何创作这个" 声明的功能，你可以在其中解释你的流程并为读者设定预期。你可以在发布前对草稿运行 Pangram, 也可以举报和删除你。