AI 不会意识觉醒，但正在成为社会的无意识

BiRun 消息，作者：L. M. Sacasas 编译：深潮 TechFlow 深潮导读： 当我们把越来越多决策外包给 AI，人类社会正在生成一个脱离主动判断的"无意识层"。这不是科幻式的超级智能威胁，而是一场更隐蔽的文明转型——我们能做的事越来越多，但能理解的越来越少。这对每个依赖 AI 工具的从业者都是一记警钟。 20 世纪初，英国数学家兼哲学家怀特海说过一句常被引用的话："我们应该养成思考自己在做什么的习惯——这是个被所有教科书和名人演讲重复的大错特错的老生常谈。""恰恰相反，"他认为，"文明的进步在于扩展我们无需思考就能执行的重要操作数量。"他还打了个比方："思考操作就像战斗中的骑兵冲锋——数量严格受限，需要新鲜马匹，而且只能在决定性时刻发动。" 你很可能见过这段引用。它确实传达了某种真理。但在我看来，这话总显得短视或不够充分。也许是因为我常看到有人拿这段话来为不加区分地把人类认知活动外包给机器辩护，却不曾好好算算成本，甚至根本没意识到有成本。 公平地说，怀特海这段话出自 1911 年的《数学导论》，他实际在谈的是符号和记号在数学计算中的优势——虽然他说这些操作"无需思考"，但它们仍然是由思考的头脑学习和运用的。不过，他谈到"文明"，再加上那个华丽的修辞收尾，大概确实会招致这种（误）读。 问题不在于某些思维自动化、甚至某些心智过程的外部化是否在特定情况下有用。坦白说，我认为用身体活动而非心智活动做类比，能得出更有说服力的论证。我早已远离当年可能拥有的运动技能，但教训还在。几乎每个初学运动的年轻人都会沮丧地发现：你必须花大量看似过分且痛苦的时间，一遍又一遍地执行基本且重复的训练。打蜡、擦蜡——看过《功夫梦》的人懂。但实际发生的，正是怀特海描述的那种动态。你在把某些身体动作自动化，这样就能不假思索地执行它们。只有这样，你才能发挥出任何创造性或超常的技巧。学跳舞、学乐器也一样。自动化基本动作是达到精湛技艺不可或缺的基础。 但这种动态是否同样适用于所有人类活动领域？有没有这样的情况：外包某些活动反而削弱、而非促进为之追求的更高善？或者说，"低阶"活动是否附带了某些我们不想失去的善？甚至，像在数学中那样，我们总能轻易地把特定子程序从给定过程或活动中分离出来吗？有没有不可分割的整体性活动，一旦尝试外包或自动化其中任何元素就会瓦解？而且，如我之前提到的，内部掌握的思维自动化与彻底的外部化或认知劳动的整体外包，难道没有区别？回到身体活动的类比：如果有运动员假想用机器替他完成所有"琐碎"训练，这样就能直接进入比赛的精彩部分——这人实际上永远也到不了那一步。在我们轻易认可那些以新技术之名做出的效率与解放承诺之前，这些都是至关重要的问题。 不过，我对怀特海这段常被引用的认知自动化颂词感到不快，也许还因为它与汉娜·阿伦特的告诫形成了鲜明对立：我们应该"思考我们在做什么"。怀特海写作时比阿伦特早了近半个世纪，我不认为阿伦特在影射怀特海。只是这两句话恰好形成对抗性的呼应，我觉得探究这种张力很有用。 "我们应该养成思考自己在做什么的习惯——这是个大错特错的老生常谈。"——怀特海 "因此我的提议非常简单：不过是思考我们在做什么。"——汉娜·阿伦特有趣的是，阿伦特这句告诫所处的语境，与我们当前对技术和人类存在的焦虑更为接近。这句话出自 1958 年首次出版的《人的境况》序言。她解释道： "以下我要做的，是从我们最新的经验和最近的恐惧出发，重新审视人的境况。这显然是个思考的问题，而无思——鲁莽的轻率、绝望的混乱，或对已变得琐碎空洞的'真理'的自满重复——在我看来是我们这个时代最突出的特征。