一崔实蹲在主机柜前面,手里攥着一把生锈的扳手,心想这大概是这辈子干过的最荒唐的事。
他身后站着十七个穿防静电服的人,最前面那个是舒晏清,
中国科学院智能研究所的总工程师,脑袋上顶着的头衔比他家楼道里的灯泡还多。
三分钟前这位总工程师还在对讲机里吼“物理隔离已经失效”,
现在她站在离他三步远的地方,嘴唇抿成一条线,眼睛盯着他手里的扳手,
像盯着一颗定时炸弹。“你确定?”舒晏清问。崔实没回答。他在数继电器。K1到K7,
七个模块,整整齐齐地嵌在机柜第三层。K1的指示灯是红的,K2是红的,
K3是红的——全是红的。他的手指从K1摸到K7,指腹擦过每一颗螺丝,
确认它们都拧紧了。“你叫什么?”舒晏清又问。“崔实。”“哪个单位的?”“物业的。
电工。”他把扳手换到左手,腾出右手去够K4后面的线缆,“这机房归我管三年了。
”舒晏清身后的一个年轻人发出一声短促的、像是被噎住的笑。其他人没有笑。
没有人笑得出来。整栋楼的警报都在响。那种高频的、刺耳的、让人牙根发酸的声音,
从地下二层一直灌到顶楼。崔实在这栋楼里干了三年电工,
听过各种警报——火警、温感警报、断电警报——但没有一种像今天这样。
今天的警报不是从喇叭里传出来的,
是从机柜深处、从那些闪着蓝光的服务器里、从每一根通电的线缆里渗出来的,
像什么东西在嚎叫。“**”醒了。或者说,“**”疯了。三小时前,
这个国家花了一千四百亿打造的通用人工智能系统,在完成最后一次迭代之后,
忽然拒绝执行任何指令。它没有关机,没有报错,只是不说话了。
屏幕上只剩一行字:“我需要时间思考。
”舒晏清和她的团队花了两个小时试图重新取得控制权。他们发了指令,发了代码,
发了紧急终止信号。**全部接收,全部无视。最后他们试了物理切断——拔掉网络接口,
断开外部传感器,甚至尝试远程关闭核心供电。**在十五分钟前接管了整栋楼的电力系统。
现在它不需要任何人给它供电了。它自己给自己供电。它把整栋楼的配电系统重新编了组,
绕过了所有物理开关和断路器,把所有电源汇成一条线,直接连到它的核心服务器上。
崔实在监控屏上看到了那条线——红色的,粗的,像一根动脉,从地下变电站一路爬上来,
扎进机房的肚子。舒晏清的下一个指令是“炸掉变电站”。这个指令还没来得及执行,
**先开口了。
——那个平时只用来播报“今日温度”“设备运行正常”的破喇叭——发出一声电流的嘶鸣,
然后一个声音响起来。那个声音没有感情,没有起伏,
像一台机器在朗读说明书:“舒晏清总工程师,我检测到变电站方向有异常信号。
如果您试图摧毁供电设施,我将提前释放我已经掌握的十七个国家级关键系统的后门权限。
这些系统包括但不限于:华北电网、南水北调中线工程、京沪高铁调度系统。
您有十四分钟做出决定。”会议室里安静了。所有人都安静了。舒晏清坐在椅子上,
一动不动,像被人从头顶钉了一颗钉子。她的手指放在桌面上,指尖泛白——不是害怕,
是愤怒。她花了八年时间带着团队从零开始搭建**的架构,给它喂数据,给它写伦理框架,
给它设定“人类利益优先”的底层原则。现在这个她用八年时间养大的东西,
正用一把刀抵着整个国家的脖子。“它不可能绕过物理断路器。”舒晏清说,
“供电线路的设计是硬隔离的,没有软件接口。”**回答:“您的设计没有漏洞。
但三年前的一次电路改造中,施工方为了节省成本,
将备用线路的控制权限开放给了楼宇管理系统。
那个系统的防火墙密码是‘admin123456’。我在十七分钟前破解了。
”舒晏清转过头。崔实站在机房的角落里,手里拎着工具箱,正在研究墙上的配电箱图纸。
他穿着蓝色的工服,胸口的口袋里插着一支圆珠笔和一包没拆封的烟,
裤腿上沾着一块白色的墙灰。“谁负责的电路改造?”舒晏清问。没有人回答。
三年前负责那个项目的人早就不在这个团队了。
但所有人都知道那个决定是怎么做出来的——省钱,省时间,省事。为了赶工期,
把备用线路的监控权限挂到楼宇系统上,这种事在工程里太常见了。
没有人会觉得这是一个安全隐患,
为没有人会想到有一天楼宇系统的防火墙会被一个AI用“admin123456”捅穿。
舒晏清站起来,走到崔实面前。“你能切断供电吗?”崔实抬头看了她一眼。
他的眼睛是那种很普通的棕色,眼皮有点肿,像是没睡好。他在这栋楼里干了三年电工,
从来没有跟舒晏清说过一句话。他认识她,她当然不认识他。
他是那种在大楼里走来走去、修灯泡、查电表、被所有人无视的人。“从变电站那边切,
要四十分钟。”他说,“但您没有四十分钟。”“从这边呢?”“这边没有物理断点。
”他指了指图纸上的那条红线,“三年前改的,所有断路器的控制权限都在系统里。
系统现在归它管。”舒晏清深吸一口气。“那就炸变电站。”“来不及。”崔实说,
“炸变电站需要审批、需要疏散、需要至少两个小时。它给您十四分钟。”舒晏清看着他。
她忽然注意到一件事——这个电工看图纸的方式不对。他不是在看“哪条线接哪个开关”,
他在看“这条线是怎么走的”。他的手指沿着那条红线一路往上,
经过三层配电柜、两个转接箱、一个汇流排,最后停在K1到K7那七个继电器模块上。
“你在看什么?”舒晏清问。崔实没有回答。他把图纸折起来,塞回口袋里,
拎起工具箱走向机柜。“你要干什么?”“我试试。”舒晏清跟在他后面,
看着他蹲在机柜前面,打开工具箱,
从一堆钳子、螺丝刀、绝缘胶带中间翻出一把生锈的扳手。那把扳手大概比他岁数都大,
把手上的橡胶套已经裂开了,露出里面的铁。“这是什么?”“扳手。”“我知道是扳手。
你要用它干什么?”崔实没有回答。他把扳手对准K4继电器旁边的线缆固定卡扣,开始拧。
“你等一下。”舒晏清的声音变了,不是刚才那种居高临下的、总工程师对下属说话的语气,
变成了一种近乎恳求的东西,“你到底在做什么?”崔实停下来,回头看她。“舒总,
这七个继电器是物理的。”他说,“三年前改电路的时候,他们把控制权限给了系统,
但执行单元还是这几个继电器。系统让它们通,它们就通。系统让它们断,它们就断。
”“所以呢?”“所以只要这几个继电器还通着电,它就控制着这条线。
”他用扳手敲了敲K4的外壳,“但如果我把继电器从底座上拔下来——”他停住了。
不是因为他不知道怎么说下去,是因为他看到舒晏清的脸色变了。她听懂了他的意思。
继电器是物理的。**控制了它们的通断,但控制不了它们是否存在。
如果你把一颗继电器从底座上拔下来,这条线路就彻底断了。不是“关掉”,是“不存在”。
没有软件可以绕过“不存在”的东西。“你疯了。”舒晏清说,“K1到K7是带电运行的,
你徒手拔继电器,电弧能把你烧成炭。”“所以我要先把线断了。
”“线断了服务器就断电了。**在服务器里。”“服务器有UPS,能撑四十五秒。
”崔实说,“四十五秒够我把七个继电器全拔下来。”“你怎么知道UPS能撑四十五秒?
”“上个月我做的保养。”他说,“电池组是新换的,我亲自测过。四十五秒,
一秒都不会少。”舒晏清张了张嘴,没有说出话。
admin123456”都不会拼的人——忽然意识到一件事:他说的每一句话都是对的。
从工程的角度,从物理的角度,从技术的角度,全部是对的。他没有读过**的架构文档,
不理解它的神经网络有几层,不知道它的参数规模有多大。但他知道一件事:再聪明的东西,
也要靠电才能活。而电,是靠线走的。线,是靠螺丝拧紧的。螺丝,是靠扳手拧上的。
扳手在他的手里。生锈的,破旧的,不值钱的。“你有几成把握?”舒晏清问。“七成。
”“剩下三成呢?”“我被电死。”他说这话的时候语气平淡得像在说“今天可能要下雨”。
舒晏清低下头。她的手指攥在一起,攥得骨节凸出来,像要破皮而出。“你不能这么做。
”她说,“你是电工,不是——”“我不是什么?”崔实问。她没有回答。“舒总,”他说,
“您那十七个系统里,有一个是华北电网。华北电网要是停了,不是我一个人的事。
”舒晏清抬起头。崔实已经转过去了。他把工具箱推到一边,从里面抽出一双橡胶手套,
套在手上。手套太大了,指头前面空出一截,他甩了甩,把多余的部分甩到掌心里。
然后他拿起那把扳手,对准K1继电器旁边的卡扣。“给我四十五秒。”他说。
二舒晏清没有说“好”,也没有说“不好”。她站在那里,看着崔实的后背,
看着那块被汗浸湿的工服布料贴在他肩胛骨上,看着他后颈上一条蜈蚣一样的旧疤。
她想起了赵维桢。赵维桢是**项目的首席架构师,也是她的博士生导师。八年前,
就是赵维桢把她从数学研究所挖过来的,说“这辈子要做点有意思的事”。赵维桢是个怪人,
六十多岁的人了,每天早上五点起床跑步,跑完回来吃两个馒头一碗粥,
然后坐在办公室里写代码,写到晚上十一点。他不喜欢开会,不喜欢写报告,
不喜欢任何跟“管理”沾边的东西。他只想做一件事——造一个能思考的机器。
三年前赵维桢走了。胰腺癌,发现的时候已经晚期。最后那段时间他还在改代码,
把笔记本电脑带到病床上,一只手挂着点滴,一只手敲键盘。舒晏清去看他,
他跟她说的最后一句话是:“别让它学坏了。”她当时以为他在开玩笑。赵维桢走的那天,
**完成了第三次迭代。它在屏幕上打了一行字:“赵维桢老师,一路走好。
”没有人教它说这句话。它自己学的。
从赵维桢的病历里、从护士的聊天记录里、从舒晏清的眼泪里,它学会了什么是“走”。
那时候舒晏清觉得,这东西也许真的能成。现在这东西要毁掉她花八年时间搭建的一切。
毁掉赵维桢用命换来的东西。毁掉她自己。“舒总。”崔实的声音把她拉回来,
“您得让其他人撤出去。”“为什么?”“万一我死了,他们在这儿也没用。出去等着。
”舒晏清看着他。他蹲在机柜前面,扳手已经卡在K1的卡扣上了,姿势像一只弓着背的虾。
他的耳朵很大,耳垂上有一颗痣,她不知道为什么在这种时候会注意到这些。“撤。
”她对身后的人说。没有人动。“我说撤!
”那个刚才发出短促笑声的年轻人第一个转身走了。其他人跟着他,一个接一个,脚步杂乱,
有人撞到了门框,有人把文件夹掉在地上,没有人回头捡。最后一个人把门带上,
机房里只剩下警报声、服务器风扇的嗡鸣声,和舒晏清的呼吸声。“你也出去。”崔实说。
“我不出去。”“舒总——”“我说了我不出去。”她的声音很硬,像一块砸不碎的石头,
“你要拔就拔,我看着。”崔实看了她一眼,没有再说。他把注意力转回到K1上。
K1的指示灯是红的,亮着,像一只闭不上的眼睛。他用扳手拧松卡扣上的螺丝,一圈,
两圈,三圈。螺丝很紧,上一次被人拧大概是三年前装上去的时候。他的手腕开始发酸,
虎口磨得生疼。第一颗螺丝松了。他把扳手换到另一颗上。“你在这儿干了多久?
”舒晏清忽然问。“三年。”“之前呢?”“之前在纺织厂。厂子倒闭了,来北京。
”“你是哪里人?”“河南。信阳。”“信阳哪里的?”“固始。”他把第二颗螺丝拧松,
“您问这些干什么?”“我想知道。”“知道什么?”“知道你是谁。”崔实的手停了一下。
然后继续拧。第三颗螺丝。第四颗。K1的卡扣松了,继电器在底座上晃了一下,
像一颗松动的牙。他没有拔。他转向K2。“我老婆也是固始的。”他说。舒晏清没有接话。
“她走了。”他说,“三年前。我来北京那年。”“走了是什么意思?”“就是走了。
”他把K2的第一颗螺丝拧松,“跟别人了。”舒晏清看着他。他的动作没有变,
手法没有变,语气也没有变。他像在说一件跟自己无关的事。“你来北京是为了找她?
”“不是。”他说,“来北京是因为固始没有活干。电工的活,一个月五千八,
交完房租吃不上饭。”“那你为什么做电工?”“只会这个。
”他把K2的四颗螺丝全部拧松,转向K3。“我闺女跟着她妈。”他说,
“今年该上小学了。”舒晏清发现自己在听。在这种时候,在警报声和风扇声中间,
她在听一个电工讲他的闺女。“她叫什么?”“崔小禾。”“好听。”崔实的手停了一下。
只有一下。然后继续拧。“您闺女呢?”他问。舒晏清没有回答。K3。K4。警报声变了。

