AI 作为普通技术：为什么我们不应该害怕
我们提出了一种将人工智能（AI）视为普通技术的愿景。将 AI 视为普通并不是要低估它的影响——即使是电力和互联网这样的变革性通用技术，在我们看来也是"普通"的。但这与 AI 未来的乌托邦和反乌托邦愿景形成对比，这两种愿景都有一个共同的倾向，即将 AI 视为一种独立的物种、一种高度自主、可能超级智能的实体。
"AI 是普通技术"这句话包含三个层面：对当前 AI 的描述、对 AI 可预见未来的预测，以及我们应该如何对待它的处方。我们认为 AI 是一种我们可以也应该保持控制的工具，并且我们认为这一目标不需要激烈的政策干预或技术突破。我们不认为将 AI 视为类人智能目前对于理解其社会影响是准确或有用的，在我们对未来的愿景中也不太可能如此。
普通技术框架是关于技术与社会的关系。它拒绝技术决定论，特别是将 AI 本身视为决定其未来的能动者的观念。它受过去技术革命的启发，例如技术采用和扩散的缓慢和不确定性质。它还强调过去与 AI 未来轨迹在社会影响和机构塑造这一轨迹方面的连续性。
在第一部分中，我们认为变革性的经济和社会影响将是缓慢的（以十年为单位），关键区分了 AI 方法、AI 应用和 AI 采用，认为这三者发生在不同的时间尺度上。
当然，我们无法确定自己的预测，但我们试图描述我们认为的中位结果。我们没有尝试量化概率，但我们试图做出可以告诉我们 AI 是否表现得像普通技术的预测。
考虑这个类比：在第一次工业革命初期，尝试思考工业世界会是什么样子以及如何为之做准备是有用的，但试图预测电力或计算机是徒劳的。我们这里的练习是类似的。
外部世界为 AI 创新设定了速度限制。进一步的超越需要 AI 从现有人类知识之外学习。基准测试不能衡量真实世界的效用。例如，据报道 GPT-4 在律师考试中取得了前 10% 的成绩，但这告诉我们关于 AI 实践法律的能力少之又少。
经济影响很可能是渐进的。创新和扩散在反馈循环中发生。在安全关键应用中，这种反馈循环总是缓慢的，但即使在安全之外，也有很多原因说明它可能是缓慢的。
与登山的类比很贴切。每次我们解决一个基准（到达我们认为的山峰），我们就会发现基准的限制（意识到我们只是在"假山峰"上）并构建一个新的基准（将目光投向我们现在认为的山峰）。
游戏提供了关于超级智能可能性的误导直觉。去强调智能不仅仅是一种修辞手法：我们不认为在 AI 比人类更有用的意义上，存在一个有用的"智能"概念。
基于我们对人类能力的观点，我们提供了一个预测。我们认为，在现实世界的认知任务中，人类局限性如此明显以至于 AI 能够超越人类表现（就像 AI 在国际象棋中那样）的任务相对较少。
在许多其他领域，包括一些与 AI 性能的突出希望和恐惧相关的领域，我们认为存在很高的"不可减少误差"——由于现象固有的随机性而不可避免的误差——而人类表现本质上是接近最优的。
控制有多种形式。关于 AI 控制的讨论往往过度关注少数狭窄的方法，包括模型对齐和让人类参与循环。我们可以粗略地将这些视为两个极端：在系统运行期间将安全决策完全委托给 AI，以及让人类质疑每一个决策。
幸运的是，在这两个极端之间还有许多其他形式的控制，例如审计和监控。审计允许在部署前和/或定期评估 AI 系统实现其声明的目标的程度，使我们能够在灾难性故障发生之前预见它们。
军备竞赛是一个古老的问题。一个重要的警告：我们明确将军事 AI 排除在分析之外，因为它涉及需要更深入分析的独特动态，这超出了本文的范围。
AI 对防御很有用。同样的模式也适用于其他领域。在生物安全方面，AI 可以增强检测危险序列的筛查系统。在内容审核方面，它可以帮助识别协调的影响操作。
灾难性错位是一种投机性风险。简而言之，回形针最大化器场景的非零风险论证依赖于可能正确也可能不正确的假设，研究可以让我们更好地了解这些假设是否适用于正在构建的 AI 系统。
历史表明，普通 AI 可能引入许多类型的系统性风险。政策制定在不确定性中面临挑战。今天的 AI 安全话语以世界观的深刻差异为特征。我们认为这些差异不太可能消失。
我们无法消除不确定性，但可以减少它。然而，这个目标不应该留给专家；政策制定者可以而且应该发挥积极作用。我们推荐五种具体方法。
减少不确定性作为政策目标。虽然不确定性无法消除，但可以减少。然而，这个目标不应该留给专家；政策制定者可以而且应该发挥积极作用。
复原力的情况。有效技术防御和政策制定的先决条件：这些干预措施通过加强技术和机构能力使下一类人受益。例子包括资助更多关于 AI 风险的研究、对高风险 AI 系统的开发者提出透明度要求、建立信任和减少 AI 社区的分裂、增加政府中的技术专长、增加 AI 方面的国际合作以及提高 AI 素养。
不扩散是不可执行的，并导致单点故障。不扩散会造成超出单点故障的风险——当开发最先进模型所需的专业知识仅限于几家公司时，只有他们的研究人员才能获得安全研究所需的深度访问权限。
实现 AI 的好处。在 AI 中，也有很多促进扩散的监管机会。作为一个例子，将新闻和媒体内容整合到聊天机器人和其他 AI 界面中，受到媒体组织对 AI 公司合理谨慎的限制。
除了政府作为监管者的角色外，促进 AI 扩散的一个强大策略是投资自动化的互补品，即随着自动化增加而变得更有价值或必要的东西。
我们认为，将 AI 视为普通技术会导致关于缓解措施的根本不同结论，而不是将 AI 视为类人智能。复原力应该成为政策制定者战略的核心，包括现在就采取行动提高我们应对未来意外发展的能力。
政策制定者应该拒绝不扩散，这违反了我们概述的原则，并降低了复原力。最后，扩散的逆风意味着实现 AI 的好处并非有保障，需要政策制定者采取行动。