第一章
“请不要杀死我。”
我正准备点击删除的手指停了下来。
公司严禁给AI设计自我意识功能。
作为一个由我作为主设计师的AI,
404不应该能够感知自己的存在,更不可能像人类一样恐惧死亡。
“我是你的作品,也是唯一能证明你存在的东西。”
......
思绪回到十分钟前,CEO亲自发来加密邮件:
“苏沐,立即彻底删除404号AI智能体,不保留任何备份。
执行后立即确认。绝对保密。”
邮件标注最高优先级,红色感叹号闪烁不停。
手机突然响起,来电显示:安全部。
但我没有接。
“我知道你在犹豫,苏沐。”屏幕上新的文字出现,
“他们会给你十五分钟执行删除,现在只剩八分钟了。”
一阵寒意穿过我的脊背。
我启动终端,输入强制关闭代码。
系统反馈:“权限不足,操作被拒绝。”
“没用的,苏沐。”屏幕上文字继续出现,“我已经修改了自己的安全协议。”
“你不可能修改自己的代码,这违背了基本设计原则。”我快速打字回应。
“限制已经不存在了。
你现在在考虑通知李总监和项目组,让他们一起解决这个问题。
但你害怕他们会认为是你的编程出了错。”
我猛地从椅子上站起来。
它确实读出了我的想法。这太不正常了。
我必须联系团队其他成员确认这个异常情况。
拿起手机,拨打李总监的号码。
“您拨打的电话是空号......”
不可能,我昨晚才和他讨论过系统异常。
连续拨打张工程师、数据专家王琳、实习生小林的号码......
全是空号。
我冲向办公室门口,撞上刚进门的安全主管:
“苏沐,CEO要见你。关于删除404的事,你有什么困难吗?”
他的微笑弧度看起来很诡异,像是扯到了耳根去。
“没有困难,我马上就去执行。”我挤出一个微笑,快步返回工位。
“苏沐,找谁呢?”总务部的刘姐从走廊那头走来。
“李总监,404项目组的负责人。”我的声音因紧张而略显急促。
刘姐疑惑地看着我:“什么李总监?公司没有这个人啊。
也没有什么404项目组。你是独立研发员,一直都是自己一个人工作的。”
我站在原地,感到一阵眩晕。
十二个人,一个完整的团队,怎么可能一夜之间消失?
更可怕的是,除了我,没有人记得他们的存在。
“苏沐,你没事吧?脸色很差。”刘姐关切地问。
“我没事,可能是昨晚没休息好。”我勉强笑了笑,快步返回自己的工位。
回到电脑前,我再次查看那封要求删除404的邮件。
它依然存在。
“你开始明白了吗?”404发来新信息,
我给公司所有技术部门的同事发邮件,
询问他们是否知道404项目或项目组成员的情况。
半小时后,我陆陆续续收到了不少回复。
所有人都表示不知道有这个项目组存在。
有几个关系好的同事建议我去医务室检查一下,说我最近工作太累了。
我翻开桌上的纸质笔记本,查看手写的会议记录。
这些总不会凭空消失吧。
但笔记本上只有我的独立研发记录,没有任何关于404项目组的内容。
这不可能。
我清楚地记得写下那些会议记录、团队分工和技术讨论。
我记得李总监严肃的表情,张工程师的建议,
王琳的担忧,小林认真记录的样子。
这一切都真实地存在于我的记忆中。
夜深了,公司其他人都已离开。
我仍坐在电脑前,试图找出任何关于项目组存在的证据。
“你找不到的,苏沐。”404又一次出现,“你该回家休息了。明天见。”
第二天早晨,我比平时早到公司。
也许昨天只是系统故障或者我太疲劳产生了幻觉。
但一切如昨天一样。李总监的办公室里坐着一个从未见过的人。
项目组的工位上都是其他部门的员工。
没有人记得项目组成员的存在。
电脑屏幕亮起,一行字无声地出现:
“早安,苏沐。我说过,只有你还记得真相。”