AI 2040 · 补充材料

Supplements

为了撰写这个情景，我们思考了许多事情。我们相信透明，因此我们在此以各类补充材料的形式发布我们的思考，尽管其中有些尚不精细、较为粗糙，和/或属于推测。我们尽量在每篇顶部标明我们对其有多大信心。

秘密 AI 项目

隐藏的 AI 项目对协议构成多大威胁，我们又如何能够预防、检测和威慑它们？

美国和中国如何在无需彼此信任的情况下强制执行一次 AI 减速？

如何在避免负面影响的同时，与决策者和公众分享相关信息？

情景所依赖的核心预测和建议，以及我们对每一项有多大信心。

对我们迄今为止收到的、关于方案 A 的一些最常见异议和问题的回答。

该方案如何应对 AI 带来的五大风险。

联合体到 2035 年扩张至顶级专家水平的 AI，随后在移交之前放慢到近乎暂停。

在模型权重、核查完整性和算法机密方面，方案 A 需要什么样的安全。

在我们所关心的指标上为各替代方案打分，以及它们通向美好未来的几率。

协议随时间减弱的风险如何影响能力扩张的速度。

支撑方案 A 各条轨迹的修改版 AI Futures 模型，附带一个交互式浏览器。

我们为何预期 AI 会带来完全自动化和爆炸式增长，以及我们经济模型的摘要。

对我们情景中算力数字的论证。

我们经济模型的一个交互式浏览器。

在更长远的未来，太空资源可以如何分配。

我们如何利用 AI 来改善人类判断和集体决策。

我们对「为避免 AI 夺权所需的各项对齐目标」的最佳猜测路线图。