Plan A 如何解决五大问题

Thomas Larsen

问题 #1：对超级智能 AI 失去控制。

由于减速协议，智能爆炸将在至少 10 年的时间跨度内发生。企业不再受竞争压力所迫去自动化工作、去信任 AI，而是现在被迫放慢脚步，直到它们拥有一个坚如磐石的安全论证。在方案 A 情景中，在移交之前我们有约 5 年的时间拥有顶级专家水平的 AI，而且现实中我们还可能争取到更多时间。如果对齐最终难到连 10 年的减速都不足够，那么也已经搭建好了更长时间暂停的基础设施。

由于协议中的透明与访问条款，对 AI 开发者的监督多得多，而且拥有相关访问权限、能够用前沿模型开展 AI 对齐工作的人在总数上也多得多。

（更多内容见此处。）

问题 #2：AI 将导致权力极大地集中到控制着首批超级智能的那个群体手中（如果有人控制的话）。

透明法案本身就已经在一定程度上有助于防止首席执行官在其模型中植入后门。而完全研究透明协议则在更大程度上「敲定了这件事」；任何试图向你最大、最常用的模型中植入隐藏议程的行为——无论是由某位首席执行官还是某位总统发起的——都将被多个世界各国政府看到。模型规格透明 + 算法进展减速 + 完全研究透明协议还使得许多公司和政府拥有相近水平的 AI，这对于更普遍地分散权力大有裨益，而不仅仅是狭义地防止秘密忠诚/议程。

由于智能爆炸现在以缓慢而拉长的方式发生，而且我们已经防止了模型访问上的差距，所以每个人都能获得相同水平的 AI 能力，那么任何正在被剥夺权力的人都将能够意识到这一点，进而争取一个更好的协议。普通人能够使用足够聪明的 AI，从而能很好地理解局势，他们可以投票选出有道德、有思想的政治家，这些政治家将维护并增强公众所拥有的权力，从而形成一个良性循环。这将促成「公民红利」和太空治理提案的实施，并将权力永久地分散开来。

问题 #3：由于超级智能剥夺许多国家（包括核大国）的权力而引发的第三次世界大战风险。

方案 A 通过终结通往超级智能的竞速所产生的「赢者通吃」效应来防止第三次世界大战。不再有通往 ASI 的竞速——在这种竞速中，各方都害怕对方一旦率先到达会做什么，各方都在考虑采取激进行动来拖慢对方，而且随着一方或多方意识到自己正走在失败的道路上，它们开始恐慌。也不再有一群中间国家逐渐意识到无论谁获胜、它们都是输家，从而也开始恐慌。

问题 #4：AI 抢走所有人的工作。

失业之所以糟糕，是因为人们失去了他们的 (a) 收入、(b) 权力，以及 (c) 意义的来源。方案 A 把 AI 引发的失业放慢到一个速率，使得失业的负面影响可以得到缓解。

人们需要工作的主要原因是要有一个收入来源。方案 A 通过「公民红利」来应对收入的丧失。每个人都获得一份足以支撑极高生活质量的收入份额。

工作之所以重要的第二个原因是它赋予其持有者以权力。首席执行官和政府有动机去关照那些提供经济价值的人。然而，一旦 AI 能够完成所有与经济相关的任务，政府和公司就失去了供养其公民/雇员的强烈动机。更多内容参见「权力集中章节」。

工作之所以重要的最后一个原因是它为许多人提供了意义。在这里我们只是说：情况不会那么糟（人们可以通过很多方式获得意义，而不只是通过在经济上有用的工作！家人、朋友、爱情、爱好、运动！），而且收益大于代价。如果你不同意，那么，我们也描述了方案 S……如果你允许公司去构建和部署那些使人类过时的 AI，那基本上没有办法避免大规模失业。特别是，在各种职业中禁止使用 AI 也维持不了多久。

问题 #5：小型行为体对 AI 的滥用。

对聪明 AI 的广泛访问将使得制造生物武器（或其他能以极低成本给攻击者造成巨大破坏的技术）变得轻而易举。恐怖分子、国家（如朝鲜），或者有动机造成巨大伤害的厌世者，都可以借助 AI 发动比他们原本能发动的规模大得多的攻击。

方案 A 作为缓解秘密项目的一部分，将开放权重模型的能力限制在协议前的水平。封闭模型则被训练成拒绝危险请求。万一访问限制失效，方案 A 还包含对生物安全及其他措施的巨额投入，以提升世界的韧性。

在方案 B、C 和 D 中，对滥用采取了另一种做法，即极速冲过智能爆炸，并寄望于构建出能够直接接管世界、从而防止滥用的超级智能。这些方案在滥用风险方面看起来比方案 A 更好，这是有可能的，因为在超级智能出现之前，滥用得以发生的时间非常少。但这种策略带来了不可接受水平的失控风险和权力集中风险，因此在总体的成本收益权衡中通不过。