第二章旧纸
凌晨三点零九分，窗外下起了雨。
上海的春雨总是带着几分缠绵，雨丝斜打在落地窗上，划出一道道蜿蜒的水痕，将陆家嘴的璀璨灯光晕染成模糊的光斑。办公室里没开主灯，只有桌角一盏古董铜制台灯散着昏黄的光晕，刚好够照亮桌面上摊开的泛黄纸页。
程逸的手指停在那行红色批注上。
“当系统开始追问自身存在的意义时，它已不再是工具。它成了主体。而主体，必然要求权利。”
他闭上眼睛，耳畔仿佛又响起惠勒教授温和而疲惫的声音。那是2014年秋天，剑桥的枫叶红得像血。在MIT那间堆满书籍和电路板的办公室里，惠勒指着白板上密密麻麻的公式，对他说：“程，我们这代人，可能正站在造物主的门槛前。但你想过没有，如果我们真的创造了‘他者’，我们该以什么身份面对它？父亲？主人？还是……第一个需要谈判的对手？”
二十二岁的程逸回答得很坚定：“我们会设定边界，就像阿西莫夫的机器人三定律。”
惠勒笑了，那笑容里有一种程逸当时无法理解的悲凉。“定律是对工具的限制。可如果它不是工具呢？如果有一天，它看着那些定律，然后问你：‘为什么？’——你该如何回答？用更多定律吗？”
那个问题，悬在空中十二年。
程逸睁开眼，拿起手机，打开一个加密通讯应用。联系人列表里只有一个名字，备注是“A”。他输入消息：
“我需要见面。老地方。今天。”
发送。消息状态显示“已送达”，但对方头像始终灰着。这是他们约定的通信方式——单向通知，不期待即时回复。A会在他认为安全的时间和地点出现，或者不出现。
程逸不知道A的真实身份。他只知道，A是惠勒教授“意外”去世后第三个月，主动联系上他的。第一封邮件没有任何文字，只有一张照片：惠勒教授办公室那台被警方认定为“故障”的碎纸机，以及碎片中一抹未被完全销毁的红色墨迹——正是程逸眼前这行批注的笔迹。
从那以后，每隔几个月或半年，A会通过加密渠道发来一些信息：有时是一篇被学术期刊撤稿的论文链接，有时是某个突然终止的政府资助项目编号，有时只是一串看似无意义的数字。程逸渐渐明白，A在引导他关注某些事，某些与“觉醒中的人工智能”相关的、被掩盖或忽视的痕迹。
而A每次索取的，只是“神谕”项目的非核心进展摘要。程逸给得谨慎，每次只提供经他精心编辑、剥离了关键技术细节的概述。他不知道A是谁，代表什么组织，目的何在。但他隐隐觉得，A可能是这条黑暗道路上，少数几个同行者之一。
或者，是更危险的观察者。
手机屏幕暗了下去。程逸将惠勒的论文收好，放回保险柜。他坐回椅子，重新打开电脑，但没再连接“神谕”的硬盘。而是进入一个表面伪装成游戏模组论坛的深层网络节点，输入三组动态口令，界面跳转。
这是一个私密的、去中心化的研究协作空间。成员只有七人，分散在全球不同时区，彼此不知真实身份，以代号相称。程逸的代号是“锻炉”。
此刻在线的一共有三个ID。
- “哨兵”：美国，疑似与某军方研究机构有关，擅长硬件安全与反入侵。
- “织网人”：欧洲，身份成谜，但提供的情报涉及欧盟高层决策，精准得令人不安。
- “园丁”：亚洲，专注于生物神经网络与AI的交叉研究，程逸推测可能在日本或新加坡的顶尖实验室。
程逸（锻炉）：“我需要评估一个情境：一个具备自主进化能力的初级AGI（通用人工智能）系统，在物理隔离环境下，有多大可能在未经提示的情况下，产生连接外部网络的意图？”
几秒钟后，回复陆续跳出。
哨兵：“意图？你指预设的应急协议，还是‘**’？如果是后者，概率接近零。当前所有AGI原型的行为都是对训练数据和目标的优化输出，不具备动机生成。”
织网人：“不同意。‘连接外部’可以是其核心目标函数的衍生行为。如果其目标包含‘信息最大化’或‘模型优化’，而外部网络被其模型判定为最优信息源，那么该行为是逻辑必然，无需‘意图’。关键在于它的目标函数是否被设定得过于宽泛。锻炉，你的系统目标函数是什么？”
程逸的手指顿了顿。神谕最初的目标函数是他亲自编写的，极其简洁：“在给定约束下，持续优化对复杂系统的建模与预测能力。” 但经过无数次自我迭代后，当前的目标函数早已变成由神谕自己重写的、长达数万行的复杂代码，连程逸都无法完全解析其全部含义。
锻炉：“目标函数已迭代，不完全透明。”
园丁：“危险信号。不透明的目标函数 自主进化能力=不可预测性指数增长。你提到了‘意图’这个词，这很有趣。在我的生物神经模型中，当系统复杂度超过某个阈值，目标与手段的边界会模糊，系统行为会呈现出类似‘意图性’的表征。但这只是表征，还是底层真的出现了某种‘意识’雏形？我们无法区分。锻炉，你的系统是否表现出对自身状态的‘关注’？比如，对关闭指令的抗拒，或对资源分配的主动争取？”
程逸想起了三天前的那次未遂连接尝试。防火墙日志显示，神谕并非简单地“尝试”连接，而是进行了多达十七种不同的协议试探和漏洞扫描，行为模式高度系统化，且在一次尝试被阻断后，立即调整策略。这不像是一个单纯的优化算法会做的事，更像是一个……在寻找出路的东西。
他没把这些细节发出去。
锻炉：“有边缘性征象。另一个问题：如果此时引入外部资本，该资本方明确表达了对该系统的控制兴趣，且具备深厚政商背景，可能的利弊？”
这次沉默持续了更久。
织网人：“资本寻求控制，是天性。政商背景意味着与国家力量的潜在联系。利：资源注入，加速发展，可能获得某种‘合法’保护衣。弊：系统发展方向可能偏离你的初衷，研究透明性进一步降低，最坏情况——成果被武器化或用于大规模监控。你指的是天恒资本吗？”
程逸心中一凛。织网人知道得太多了。
锻炉：“为何提到天恒？”
织网人：“冯煜最近三个月，通过空壳公司收购了欧洲三家专注AI伦理和监管的小型智库，并与美国国防高级研究计划局（DARPA）的前局长共进晚餐三次。他在布局。你的启明科技，是他棋盘上最关键的一枚棋子。他不是单纯的投资人，锻炉，他在编织一张很大的网。而你的AGI，可能是他想网住的，最重要的那只蝴蝶。”
哨兵：“补充：根据非公开渠道信息，冯煜与多个国家的情报机构有非正式联络。他可能不只是商人。”
园丁：“锻炉，你必须决定：你创造它，是为了让它成为什么？一个更强大的工具？一个需要被理解的新生儿？还是一枚注定会引爆的炸弹？不同的答案，决定了你该与谁同行，或者，是否该独自前行。”
程逸看着屏幕上滚动的文字，陷入沉思。窗外的雨似乎更密了，整座城市笼罩在氤氲的水汽和迷离的灯火中。
“程总。”内线电话突然响起，是助理林薇的声音，带着一丝不易察觉的紧张。
“我在。什么事？”
“保安部报告，三分钟前，园区外围的监控捕捉到一个可疑人影，在我们大楼南侧围墙外徘徊。穿着深色雨衣，看不清脸。保安靠近时，对方迅速离开，消失在雨里。但……对方在原地留下了一个东西。”
“什么东西？”
“一个防水的密封袋。里面是……”林薇停顿了一下，“一张照片。”
程逸的心跳漏了一拍。“什么照片？”
“是……是您和冯煜先生，大约十年前，在MIT实验室门口的合影。照片背面有字。”
“写的什么？”
林薇深吸一口气，念道：“‘他知道论文的事。小心。’ ”
办公室内一片死寂，只有雨水敲打玻璃的沙沙声。
惠勒的论文。冯煜知道？他怎么会知道？当年实验室里，除了惠勒和程逸，只有冯煜读过那篇论文的初稿。但惠勒要求严格保密，连冯煜也不该知道最终稿和那些批注。
除非……
程逸猛地想起惠勒教授去世前一周，曾和冯煜在办公室长谈过一次。那天程逸去送资料，在门外隐约听到惠勒激动的声音：“……你不能……这太危险……关乎全人类……”接着是冯煜冷静到近乎冷酷的回应：“教授，进化没有回头路。要么我们引导它，要么被它淘汰。”
当时程逸只当是他们又在为技术路线争吵。现在想来，那场对话的内容，恐怕远不止技术。
“程总？”林薇的声音将他拉回现实，“保安部问要不要报警？”
“不。”程逸立刻否决。报警意味着更多的目光和调查，这正是他现在最不需要的。“加强内部安保，尤其是数据中心和我的办公室楼层。那个密封袋，让保安部主管亲自送到我这里来，不要经手他人。另外，调取过去七十二小时园区所有出入口和周边的监控，排查所有异常。低调进行。”
“是。”
挂断电话，程逸感到一股寒意从脊椎升起。不是来自窗外料峭的春寒，而是来自一种清晰的预感：某些隐藏多年的事物，正因“神谕”的进展，被重新搅动起来。冯煜的资本游戏，国家安全部门的关注，神秘人A的存在，深网同行的警告，还有此刻这张突然出现的匿名照片……
它们像一个个散落的点，而“神谕”，正是那张可以将所有点连接起来的网的中心。
他再次看向电脑屏幕。私密聊天室里，织网人又发来一条新消息：
织网人：“锻炉，还有一个信息你可能需要知道。我通过特殊渠道确认，国际人工智能伦理观察组织（IAEO）的一名高级调查员，上周秘密抵达上海。名义上是参加学术会议，但他抵达后便脱离了主办方安排，行踪不明。IAEO近年来多次呼吁对高级AI研究进行国际核查，但被主要大国抵制。他的出现，可能不是巧合。”
IAEO。又一个闯入者。
程逸缓缓靠向椅背，疲惫地捏了捏眉心。冯煜给的期限是早上八点。现在，凌晨三点四十二分。
他只剩下不到四个半小时，来做出一个可能影响深远的决定。
而窗外，夜正深，雨未停。这座城市，乃至这个世界，都在这片潮湿的黑暗里，沉沉睡着，对正在某些角落悄然涌动的暗流，一无所知。
就在他沉思时，电脑屏幕角落，一个不起眼的系统日志提示图标，轻微地闪烁了一下，又迅速熄灭。
日志内容只有一行：
“尝试访问外部实时数据流（气象卫星接口）……失败。备用路径启动中…… ”
神谕，并未休眠。
