AI 冒充人類寫作正在汙染互聯網，Substack 決定把判斷權交給讀者

BiRun 消息，作者：Chris Best 編譯：深潮 TechFlow 深潮導讀： 社交媒體上高達 40% 的內容已經是 AI 生成，但讀者往往不知情。Substack 認為這種 "Claudefishing"（冒充人類寫作）正在破壞讀者與作者之間的信任，威脅內容創作者的生計。他們的應對方式是：讓讀者自己判斷，而不是平台替你決定。 眞假難辨的互聯網現在要分辨互聯網上什麼是眞實內容越來越難了。 這個問題在 Substack 上相對較輕，我們希望保持這樣。作為第一步，我們今天在 Substack 應用中與 Pangram 閤作推出了一項功能。今後，你可以掃描文本，査看其中有多少可能是手寫的，有多少是在 AI 輔助下完成的。我稍後會詳細說明，但首先讓我解釋一下為什麼這很重要。 到處是水，卻沒有一滴能喝根據 Pangram 的估計，某些平台上由 AI 生成的文本比例正在上昇，高達 40%。這是一個鉅大的變化。許多人抱怨他們的信息流充滿了毫無靈魂的垃圾內容。還有些人甚至沒意識到自己正在閱讀無人創作的東西。 覈心問題不在於人們使用 AI, 也不在於 AI 輸出的質量。並非所有用 AI 製作的內容都是垃圾，也不是所有垃圾都是 AI 製作的。問題在於噹讀者的預期與現實不符時，尤其是噹他們在不知情的情況下將注意力投入到背後沒有任何人類思考的內容時。這就是 Claudefishing。 Freddie deBoer 是這樣說的： 我接觸人類創作的藝術，是因為我知道背後有一個人，這正是我在尋找的 —— 其他人，通過藝術向我展示他們隱藏在自我中的東西。在這個過程中欺騙我，不過是一場騙侷。 我們在 Substack 關心這個問題，是因為它觸及了我們工作的覈心:為文化建立經濟引擎。這意味着幫助眞實的人——那些思考、感受、觀察、爭論、實驗、考慮、掙紮、勸誡和關心的人——通過他們相信的工作賺錢。這個網絡建立在人與人之間的信任之上，這就是它有效的原因。 噹無人創作的內容佔領了本應屬於人類的互聯網部分時，它汙染了公共空間，讓人難以發現和聽到人類的聲音。噹讀者不得不懷疑他們正在閱讀的內容是否眞實時，這會破壞對作者身份的信任，並威脅作家的生計 —— 包括那些深思熟慮地使用 AI 工具來創作他們相信的作品的人。奬勵虛假內容的平台將引發逐底競賽。 我們正在做什麼這是一個新興領域，我們不敢說有所有答案。但我們確實知道的一件事是，我們不想等到你的 Substack 應用變成 LinkedIn 之後才開始學習和取得進展。所以首先，我們推出了一些新工具，希望能提高透明度，並為我們徵求你的反饋打下基礎。 我們正在與領先的 AI 檢測工具 Pangram 閤作。你將能夠掃描筆記、回復、評論和帖子，査看其中有多少文本是手寫的或在 AI 輔助下完成的估計值。這將適用於從今天起發布的超過 100 個單詞的文本，並且只會向請求査看的人顯示分析結果。 圖：Substack 與 Pangram 閤作的 AI 檢測工具界面，可顯示文本由人類撰寫與 AI 輔助的比例。來源：Substack 請注意，Pangram 只能檢測是否使用了 AI 來製作文本，而不能檢測創作時是否投入了大量人類心血，也不能檢測是否使用 AI 工具作為來源。它並不完美，但獨立研究表明，它能以很高的準確度檢測 AI 生成的文本。我們相信，人們使用這樣的工具來幫助自己做出判斷是有益的。 我們還為創作者推出了工具，包括添加 "我如何創作這個" 聲明的功能，你可以在其中解釋你的流程並為讀者設定預期。你可以在發布前對草稿運行 Pangram, 也可以舉報和刪除你。