被解决的逻辑：AI 真正的危险不是取代你，而是让你变得可有可无
草地上，午后的阳光慵懒地铺展开来。一个男人躺在一堆糕点旁边，一只手搭在一块面包上，却始终没有拿起来。不远处，一个女人坐在那里，看着一只烤鹅在她头顶缓缓盘旋，被一阵轻风托着。他们身边，一条苍白的河流无声地流淌，水面平滑如镜。一切都不慌不忙，毫无目的。万物都悬停在一种温暖而完整的安逸中——那种舒适不邀请任何行动，甚至打消了最小的欲望。
一阵微风拂过草地，但那风也显得有气无力。河面上方的烤鹅继续画着同一个缓慢的圆圈，仿佛已经忘记了如何降落。什么都没改变。时间似乎满足于停留在原地。中世纪的讲故事的人给这种地方起了个名字，叫"科卡尼亚"（Cockaigne）。
他们理解了一个我们这个自动化一切的时代宁愿忽视的道理：一个什么都不要求你的世界，不是祝福，而是一种缓慢的抹除。科卡尼亚的生活不是悲剧，它比悲剧更糟：它无聊。
科卡尼亚的讲故事者所理解的是，一个没有阻力的世界不会长久保持天真。迟早，安逸会变成一种自身的压力。当什么都不再推回来，面对世界的人就开始蒸发。当即时富足变得自动化，人的能动性就开始稀薄。最先消失的并不是痛苦，而是必要性——随之而来的是选择、行动或渴望任何东西的能力，除了下一个温暖的午后。
一个被解决的环境不仅仅是移除障碍；它移除了曾经让行动有意义的摩擦。一旦阻力消失，系统内部的人就开始扁平化，就像一块肌肉忘记了如何运动。
我以前见过这种模式。不是在神话里，而是在棋盘上。通讯象棋已经变成了一出奇怪的小戏剧。两个非常严肃的人坐在各自的桌前，假装在对弈，但真正的工作是由在后台安静运行的引擎完成的。棋盘上出现的走法完美而无菌：它们是机器的产物。
棋手们可能会点头、皱眉或沉思——也就是说，模拟思考的姿态——但决策早在几小时前就已经由软件做出了，而软件甚至无法想象"胜利"是什么。你最终看到的不是比赛，而是一场重演：两个人类在早已离开建筑之后，还在表演斗争的动作。它有一种仪式的奇特魅力，和一份工作因为没人记得取消而继续的忧郁。
一旦艰难的部分被委托给不知疲倦、不犹豫、不怀疑的系统，人类的角色就缩小为监督和仪式。我们留在循环中，主要是因为还没有人想出如何在没有我们的情况下重新设计它。任务是完美的，但执行它的人开始感到奇怪地可有可无，仿佛这个世界已经学会了在人类意图追赶之前继续运转。
我们建立了一种文化，公开地梦想着从生活的每个角落移除困难。摩擦被视为设计缺陷。缓慢是一个错误。不确定性是预测的暂时失败。如果你把这个逻辑推得足够远，你到达的不是解放，而是一个感觉诡异得类似于科卡尼亚的世界：一个几乎一切都运转良好，但几乎什么都不需要你的地方。
在这个意义上，人工智能不是颠覆，而是延续。它把被解决的逻辑推向了自然的极端。曾经需要努力、技能或怀疑的任务，现在以机械的自信滑行向前。这些系统比我们更快、更一致，而且——关键的是——对那些曾经赋予人类行动质感的东西漠不关心：犹豫、错误、野心、恐惧。他们不挣扎，也不渴望。他们只是执行。
在他们不断增长的能力中，我们开始看到一个世界的轮廓：它运转得美丽而安静，同时悄悄地将它建造来服务的那个生物边缘化。大多数关于人工智能的讨论都围绕着同样一组担忧。杀手机器人。大规模失业。机器某天早上醒来，决定把我们当作四舍五入误差。由永不睡眠的算法驱动的监控国家。超级智能崛起掌控一切。诸如此类。
这些场景都是预先包装好的，就像我们不断重看的灾难电影货架。它们提供了戏剧性、规模，以及一种令人安慰的感觉：当危险到来时，至少会是明显的。但是，当我们争论哪个科幻剧本值得登上头条时，一些更安静的事情正在眼前发生。
真正重要的危险很少看起来像危机。它看起来像安逸。系统变得更顺畅。任务自己完成。决策预先打磨好。一点一点地，那些曾经迫使我们思考或选择的粗糙边缘开始消失。没有什么灾难性的事情发生；没有警报、起义或电影般的接管时刻。相反，世界向便利倾斜，我们也跟着倾斜，几乎没有注意到我们正在放弃那些曾经让我们保持清醒的摩擦。
最先消失的，不是我们的工作。是我们的质感。那些与困难的小谈判，塑造了我们如何学习、决定、犹豫，凡此种种。当一切都变得容易时，那个曾经支撑一个人的内在脚手架开始松动。我们并没有变得过时；如果有什么的话，我们变得越来越稀薄。世界还在运转，但它不再需要塑造人类性格的缓慢而顽固的过程。
在某个时刻，系统只是让一切在无摩擦的移动中保持运转，我们开始感觉像是自己能力的客人。意义无法在无摩擦的世界中生存。它依附于阻力，就像芒刺依附在动物的毛皮上。我们后来称之为有意义的每一次经历，都是从某种拒绝合作的东西开始的：一个困难或一个暂停——世界上某个不肯让位的小碎片。移除那个，生活不会变得更安全或更快乐；它只是感觉稀薄。
事件还在继续滚动，但它们不再抓住我们内心的任何东西。选择还在出现，但没有什么能勾住。世界继续转动，不知何故我们开始从它中间滑落。我们以前见过这种模式的版本，散落在看似无关的地方。一个中世纪关于轻松富足的梦想。一个在现代游戏，在人类早已离开房间之后还在继续。
现在是一种以同样的安静胃口吸收困难的技术。这些都不是危机。它们是一个世界漂移到被解决逻辑的症状：系统运转顺畅，任务自己完成，人们主要出于习惯留在参与中。细节变了——微风上的烤鹅、完美的棋步、预测算法——但结构是一样的。安逸扩张，我们内在的某种东西退却。
我们倾向于想象未来会给我们带来戏剧性的选择。但真正的选择已经在这里，它更小、更安静，几乎简单得令人尴尬。它是在一个仍然推回来的生活和一个完美安排到我们几乎感觉不到自己在其中的生活之间的选择。在一个漂移到被解决逻辑的世界中，这种差异变得决定性的。
事情运转得越顺畅，就越容易忘记困难不是人类条件的缺陷，而是我们学会移动、思考或渴望任何东西的媒介。科卡尼亚一直是一个笑话——一个夸张，一个用微笑讲述的讽刺警告。通讯象棋从未打算成为我们这个世纪的寓言。而人工智能，尽管所有的头条新闻，也不是人类灭绝故事中的反派。
这三者揭示了一些远为普通、远更难谈论的东西：我们可能最终生活在一个运转得美丽而几乎什么都不要求我们的世界里的安静可能性。机器不会以任何戏剧性的方式取代他们。它们会继续做艰难的部分，我们会习惯这种安排。一点一点地，成为某个人的重量滑向那些如此能干地处理一切的系统。
没有什么会破碎。没有什么会爆炸。世界变得更轻松，在这种轻松中我们开始漂移——不一定走向灾难；而是一种塑造我们的挣扎已经消失的生活版本。但这就够了。如果有危险的话，那就是：有一天我们醒来，发现一个运转得无可挑剔的世界，发现里面的人开始感到可有可无。不是因为任何人把他们推了出去；只是因为安逸，走得足够远，会安静地把其他一切都推到一边。