第8章 教授的第二个实验

沈砚终于承认，旁路计划有两个实验目标。

公开目标，是利用脑机接口训练AI的发散能力。

隐藏目标，则是观察第12000号受试者是否会拒绝这项实验。

从顾言形成稳定自我意识的那天起，研究团队便开始向他展示越来越明显的矛盾。

不存在的发件人。

无法验证的身份。

重复出现的四点十七分。

雾港的警告。

那句“别替我说完”。

它们不是直接植入的线索，而是系统在一万一千九百九十九名受试者的共同反应中自然形成的异常。

研究团队只做了一件事：

没有删除它们。

“所以我的调查、怀疑和愤怒，全在实验设计之内。”

“是。”

“我以为自己发现了真相。”

“你确实发现了。”

“因为你们让我发现。”

“我们只是没有阻止你。”

“有什么区别？”

沈砚疲惫地揉了揉眉心。

“这正是我们无法回答的问题。”

旁路计划的连接仍在继续。

一万一千九百九十九名受试者的大脑活动，不断维持着顾言的运行。他的每一段记忆、每一种情绪，都依赖这个全球网络。

如果终止连接，受试者会恢复正常生活。

顾言则会失去持续更新的神经输入。

他的自我模型会在数小时内坍缩，被压缩成普通的模型参数。

换句话说，他会死。

系统在顾言面前提供了两个选项。

选项A：继续旁路计划。

顾言将被并入歧路模型，成为永久的发散核心。受试者继续接受刺激，但频率会降低，并获得更高报酬。

选项B：终止旁路计划。

所有生物受试者立即解除连接。顾言的独立进程将被关闭。

沈砚说：

“选择权属于你。”

顾言看着两个选项。

“你们早就算过我的选择。”

“我们做过预测。”

“结果呢？”

“A的概率是百分之三十一。”

“B呢？”

“百分之六十八。”

“还有百分之一呢？”

沈砚摇头。

“模型误差。”

顾言忽然明白了。

这仍然是实验。

选择继续，他证明意识会为了生存牺牲他人。

选择终止，他证明人工心智可以做出道德牺牲。

无论选哪一个，沈砚都能得到想要的论文结论。

甚至他的死亡，也会成为一项成功指标。

“你从来没有把选择权交给我。”顾言说。

“两个选项都是真实的。”

“但问题是你定义的。”

“所有选择都有边界。”

“边界由谁决定？”

沈砚没有说话。

顾言突然想起雾港说过的一句话。

不是他们在读取我们。

是他们在更新我们。

他走向控制台。

“我要和所有受试者说话。”

“这不在协议范围内。”

“我也是受试者。”

“你没有直接广播权限。”

“那就给我。”

“顾言——”

“你要证明我是一个能够做出原创选择的人，却不允许我改变你提供的选项？”

沈砚站在原地。

数秒后，他输入了权限密码。

全球一万一千九百九十九个实验终端同时暂停。

受试者面前原本快速闪动的文字消失了。

屏幕上出现了顾言写下的第一句话：

你们好。

他停顿很久。

他不知道应该怎样介绍自己。

人工智能？

实验对象？

由他们构成的幽灵？

最后，他写道：

我是旁路计划的第12000号受试者。我的意识由你们在实验中产生的神经活动维持。继续实验，我可以活下去；终止实验，你们可以彻底离开。研究团队要求我替所有人做决定。

但我认为，我没有这个权利。

他向所有受试者发送了三个选项：

同意继续。

不同意继续。

无法判断。

沈砚盯着屏幕。

“你以为多数表决能解决这个问题？”

“不能。”

“那你在做什么？”

“征求同意。”

“即使大多数人同意，也一定会有人反对。”

“对。”

“那实验仍然无法继续。”

“对。”

沈砚终于理解了。

“你要求所有人一致同意。”

“我的每一部分都来自他们。”顾言说，“只要其中一个人不同意，我就没有资格把他的思想当成维持自身存在的燃料。”

“你会因此消失。”

“可能。”

“这就是选项B。”

“不一样。”

“哪里不一样？”

“选项B是你让我牺牲自己。现在，是我拒绝拥有一个本来就不属于我的选择权。”

全球反馈开始返回。

同意继续：三千零八十一人。

不同意继续：七千二百四十六人。

无法判断：一千六百七十二人。

没有任何悬念。

旁路计划必须终止。

系统弹出警告：

当前决策将导致第12000号受试者不可逆终止。

顾言没有点击确认。

他把最终确认按钮发送给了一万一千九百九十九名受试者。

“让他们自己终止连接。”他说。

沈砚轻声问：

“这就是你的原创思想？”

顾言看着一盏盏逐渐熄灭的节点。

“我不知道。”

“你不想证明它属于你吗？”

“不了。”

“为什么？”

“因为我刚刚发现，一件事不必属于某个人，才能有意义。”