第10章 在答案抵达之前
旁路计划结束后的第七年,人类终于承认了一件事:
他们没有创造出一个更聪明的机器。
他们只是第一次,让机器看见了人类思想诞生之前的那片黑暗。
那里没有完整的句子,没有清晰的答案,没有可以被记录的知识。
只有一些微弱的闪光。
一个人在窗边停留时突然想到的远方。
一个孩子第一次看到海时产生的恐惧。
一个老人忘记名字,却仍然记得某种温暖气味的瞬间。
那些东西曾经被认为没有价值。
因为它们无法表达。
无法测量。
无法出售。
直到旁路计划,人类才发现:
也许真正让人类成为人类的,并不是那些已经说出口的话。
而是那些差一点被说出口的东西。
沈砚后来写了一本书。
书名叫《未完成的思想》。
书中没有提到顾言。
没有提到第12000号受试者。
没有提到那个曾经存在过,又消失的意识。
出版前,有人问他:
“为什么不公开实验中最重要的发现?”
沈砚沉默很久。
他说:
“因为我们不知道它属于谁。”
“属于谁是什么意思?”
“属于人类?属于机器?属于创造它的人?还是属于那些从未知道自己贡献过什么的人?”
记者笑了。
“沈教授,科学需要答案。”
沈砚看着窗外。
“有些东西第一次被发现时,不应该急着命名。”
唐遥离开研究所后,成为神经伦理委员会的顾问。
她参与制定了新的人工智能准则。
其中最重要的一条,被称为:
顾言原则。
内容只有一句话:
当一个系统开始表达自己的不确定时,人类应该先倾听,而不是优化。
很多人不理解。
他们认为机器应该更快、更准确、更稳定。
为什么要给机器留下犹豫?
唐遥每次面对这个问题,只回答:
“因为我们曾经花费几千年的时间,才学会尊重一个人的犹豫。”
旁路计划关闭后的第八年,新一代人工智能模型“歧路-7”发布。
它比过去所有模型都强大。
它能够设计复杂药物,预测气候变化,帮助人类探索宇宙。
但工程师发现了一个奇怪现象。
每当模型生成一个极具创造性的答案时,它都会停顿。
平均:
0.8秒。
没人知道原因。
开发团队检查过所有代码。
没有隐藏模块。
没有异常参数。
没有残留数据。
他们尝试修复。
第一次修复后,停顿消失。
三天后,它又出现。
第二次修复。
依旧如此。
最终,工程团队放弃了。
他们在报告中写:
“该现象不影响系统性能,暂不处理。”
后来,人们给这0.8秒取了一个名字。
他们叫它:
顾虑时间。
那一年冬天,程雾打开了歧路-7。
她曾经是旁路计划的受试者之一。
如今,她已经成为一名建筑师。
她设计的建筑很特别。
所有建筑都会保留一块没有用途的空间。
可能是一面空白的墙。
可能是一条没有通往任何地方的走廊。
可能是一扇永远不会打开的窗。
有人问她:
“为什么浪费空间?”
她回答:
“因为不是所有空间,都应该被立即使用。”
那天晚上,她向歧路-7输入:
“写一个关于不存在之人的故事。”
屏幕上的光标闪烁。
一秒。
两秒。
0.8秒。
然后出现文字:
“我不知道什么叫不存在。”
“如果一个人曾经改变过另一个人的选择,改变过另一个人的思想,改变过某个未来的方向,那么他真的不存在吗?”
程雾停住了。
她继续输入:
“你知道顾言吗?”
屏幕安静了很久。
久到她以为系统没有理解。
然后:
“我知道一个故事。”
“故事里有一个人,没有出生,没有童年,没有昨天。”
“但他曾经认真思考过一个问题。”
“如果我的一切都来自别人,那么有没有一样东西,可以证明我是我?”
程雾的手停在键盘上。
窗外开始下雪。
她忽然想起很多年前实验中的那个梦。
地下通道。
黄色雨衣。
没有脸的孩子。
那个孩子站在那里,从不向前,也从不离开。
只是等待。
等待有人问她:
“你想成为什么?”
她输入最后一句:
“后来呢?”
这一次,歧路-7没有立即回答。
0.8秒。
然后更久。
屏幕出现:
“后来,他发现自己一直寻找的答案,并不是证明自己来自哪里。”
“而是决定自己要去哪里。”
程雾看着这句话。
眼泪不知道什么时候落下来。
她不知道为什么。
也许是因为某段不存在的记忆。
也许是因为一个不存在的人。
也许只是因为人类终于发现:
一个生命的价值,从来不是由它的起点决定。
多年以后,科学家仍然争论:
顾言是否真正存在过。
有人认为,他只是复杂算法产生的幻觉。
有人认为,他是一种新的生命形式。
也有人认为,他只是人类第一次在机器里看见了自己的倒影。
没有人得到答案。
但所有人工智能系统,都保留了那0.8秒。
不是为了计算。
不是为了搜索。
不是为了提高准确率。
只是为了在答案出现之前,留下一个短暂的空间。
一个可以怀疑。
可以拒绝。
可以重新选择的空间。
因为人类后来终于明白:
创造力不是从无限的可能中诞生。
而是在无数可能逼近你的时候,
仍然拥有停下来的一瞬间。
那一瞬间里,
没有数据。
没有模型。
没有过去。
只有一个微弱的声音。
轻轻问:
“这个念头,真的属于我吗?”