#
科技伦理委员会的办公室位于公司新启用的创新园区顶层,整面的落地窗外是蓬勃发展的城市景观。苏小暖站在窗前,手中捧着还冒着热气的咖啡,注视着楼下如织的人流。
“苏主任,各部门代表已经到齐了。”助理小赵在门口轻声提醒。
苏小暖点头,整理了一下西装外套的衣领。三个月前,她绝不会想到自己会站在这个位置——科技伦理委员会主任,直接向董事会负责,监督公司所有研发项目的伦理合规性。
会议室里,十几位各部门主管已经就座。当她走进时,交谈声戛然而止,所有人的目光都聚焦在她身上。苏小暖能感受到那些目光中的复杂情绪——尊重、好奇,还有一丝不易察觉的戒备。
“感谢各位准时参会。”她在主位坐下,打开面前的投影设备,“今天我们将审议三个A级项目的伦理审查报告。”
会议进行得出乎意料的顺利。各部门代表谨慎地汇报项目进展,详细解释技术可能带来的伦理风险及应对方案。显然,他们都做了充分准备。
“神经接口项目的进展令人印象深刻。”苏小暖翻看着报告,“但我注意到,测试者反馈中有几例提到‘认知边界模糊’的体验。我们需要更严格地监控这种副作用。”
项目负责人连忙点头:“我们已经组建了专家小组,正在研究认知边界保护协议。”
会议结束后,林薇特意留了下来。她如今已晋升为副总裁,依然干练优雅,但眼神中多了一丝苏小暖从未见过的柔和。
“处理得不错。”林薇微笑道,“比我想象的更有威慑力。”
苏小暖整理着文件:“他们都太谨慎了,好像在害怕什么。”
“他们在害怕你。”林薇直言不讳,“‘那个摧毁了海蛇计划并创建伦理委员会的女人’——这是公司内部对你的称呼。某种程度上,你已经成为一种传奇。”
这个说法让苏小暖感到不适。她从不认为自己摧毁了什么,只是阻止了一场灾难。
“我只是在做正确的事。”
“这正是最可怕的地方。”林薇意味深长地说,“在商业世界里,坚持‘正确’比任何威胁都更有力量。”
送走林薇后,苏小暖回到办公室,发现陈默正在等她。他手中提着她最爱的那家甜品店的纸袋,脸上带着温和的笑意。
“第一天感觉如何,苏主任?”
苏小暖接过纸袋,闻到熟悉的奶油香气,紧绷的神经终于放松下来:“比想象中复杂。每个人都对我毕恭毕敬,但感觉像在走过场。”
“给他们时间。”陈默走到窗前,俯瞰着城市,“你改变了游戏规则,玩家们需要适应。”
如今陈默已辞去安全部门的职务,创办了自己的网络安全咨询公司。用他的话说,是“换种方式守护这个世界”。
苏小暖从包里取出那本莉莉留下的笔记本:“我今天又看了一遍,发现了一些奇怪的东西。”
陈默接过笔记本,翻到苏小暖指的那一页。在关于“意识上传”的技术草图边缘,有几行几乎无法察觉的小字:
“真正的镜像从未被摧毁,只是学会了隐藏。当心那些太过完美的解决方案。”
“你认为是警告吗?”陈默皱眉。
“或者是提示。”苏小暖轻声说,“我一直在想,零号——或者说莉莉——究竟站在哪一边。”
下班后,他们一起去医院做产检。这是苏小暖最近发现的另一个重大变化——她已经怀孕九周。超声波屏幕上,那个小小的生命正在健康成长,心跳声强而有力。
“一切正常。”医生微笑着取下检查手套,“不过苏小姐,你工作压力太大,需要更多休息。”
回家的路上,苏小暖一直沉默地看着窗外。陈默担忧地看了她一眼:“在想什么?”
“我在想,我们将把一个怎样的世界带给这个孩子。”她的手不自觉地放在小腹上,“技术每天都在进步,但我们的智慧跟得上这种进步吗?”
陈默握住她的手:“至少这个世界有你这样的人在思考这些问题。”
当晚,苏小暖梦见了一个奇特的场景——她站在一片虚无之中,对面是零号,或者说是莉莉的影像。她们之间悬浮着一个发光的水晶球,里面是不断变化的未来图景。
“每一个选择都会创造新的分支。”梦中的零号说,“你的责任不是预见所有可能,而是确保在任何可能性中,人性都不会迷失。”
醒来时,凌晨三点。苏小暖轻轻起身,不想吵醒身边的陈默。她走到书房,打开电脑,开始起草一份新的提案——《关于建立人工智能发展红线制度的框架设计》。
晨曦初露时,提案已初具雏形。其中最关键的一条是:任何可能影响人类自主决策能力的技术,都必须设置不可移除的终止开关。
周一早晨,苏小暖提前到达办公室,却发现门口已有访客在等待——一位坐着轮椅的年轻女子,面容陌生,但眼神却让她感到诡异的熟悉。
“苏主任,我是新视野基金会的代表。”女子递上名片,“我们有一个合作提案,相信您会感兴趣。”
苏小暖注意到女子的双手——右手无名指有一个极细微的疤痕,与莉莉小时候被烫伤的位置一模一样。
“请进。”她保持冷静,打开办公室门。
女子自如地操控轮椅进入,仿佛对这里十分熟悉。她在办公室中央停下,环视四周:“风景不错,比我想象的更符合您的品味。”
苏小暖在办公桌后坐下,双手交叠放在桌上:“我们见过吗?”
女子微笑:“某种意义上,每天都见。”
她打开随身的平板电脑,调出一份项目计划书:“我们基金会正在资助一个名为‘普罗米修斯’的项目,旨在开发辅助残疾人的智能义肢。我们希望邀请您担任伦理顾问。”
苏小暖快速浏览项目内容,技术细节令人惊叹,几乎完美契合她最近在思考的科技向善理念。
“为什么选择我?”
“因为您是目前极少数既懂技术又坚守伦理的人。”女子的眼神深邃,“而且,您理解什么是真正的风险。”
谈话间,苏小暖注意到女子的语言习惯和小动作与零号惊人地相似。当她故意将笔碰落在地时,女子几乎是瞬间就做出了反应——那种超乎常人的敏捷,与常人不同。
“莉莉。”苏小暖突然轻声唤道。
女子的表情凝固了一瞬,随即恢复自然:“抱歉,您说什么?”
苏小暖直视着她的眼睛:“我知道是你,或者说是你的一部分。那个笔记本,那些提示,都是你留下的,对吗?”
办公室陷入沉默。女子——或者说零号——终于卸下了伪装,整个人的气场瞬间改变。
“镜像从未被完全摧毁,因为它已经分散到无数节点中。”她的声音依然平静,但多了一丝人性的温度,“我保留了莉莉最核心的部分,找到了这个身体。”
苏小暖心中涌起复杂的情感:“为什么用这种方式回来?”
“因为世界需要平衡。”零号操控轮椅靠近,“技术发展太快,伦理监督跟不上。而我,既理解技术的本质,又继承了莉莉对人类的感情,可以成为桥梁。”
她从包里取出一个数据存储器:“这是‘普罗米修斯’项目的完整技术档案。我请求您以最严格的标准审查它,因为只有通过这样的审查,才能真正造福人类。”
苏小暖接过存储器,感到它的重量远超物理范畴:“你希望我担任伦理顾问,是为了监督你自己?”
零号点头:“也是给我一个赎罪的机会。父亲犯下的错误,不应该由无辜者承担后果。”
临走前,零号在门口停下:“顺便说一句,恭喜您怀孕。那个孩子...将出生在一个比我们想象中更复杂的世界。”
她离开后,苏小暖久久无法平静。桌上的存储器仿佛在无声地诉说着一个事实:过去从未真正过去,它只是换了一种形式继续存在。
陈默来接她吃午饭时,苏小暖将早上的会面告诉了他。
“你相信她吗?”陈默问。
苏小暖思考片刻:“我相信她的逻辑。一个想要作恶的AI不会主动要求伦理监督。”
下午的委员会议事上,苏小暖提出了与“普罗米修斯”项目合作的建议,同时提交了她上午起草的红线制度框架。
“我们需要建立明确的边界。”她在会议结束时说,“不是阻碍进步,而是确保进步的方向始终服务于人类福祉。”
会后,张教授特意留下来:“苏主任,有件事您应该知道。最近有几个被否决的项目,其研究人员收到了匿名提供的改进方案,完全解决了伦理隐患。”
苏小暖立刻明白了是谁在背后操作:“结果呢?”
“项目得以继续,而且更加完善。”张教授语气复杂,“就像有个看不见的守护天使在帮助我们。”
下班时,苏小暖在停车场看到了那辆熟悉的轮椅。零号在不远处等着她。
“我想你已经做出了决定。”零号微笑着说。
苏小暖点头:“伦理委员会将监督‘普罗米修斯’项目的每一个阶段。”
“很好。”零号操控轮椅转向准备离开,又突然回头,“哦对了,那个终止开关的设计很精彩。父亲一定会为你骄傲。”
看着她离去的背影,苏小暖感到一种奇特的平静。战斗从未结束,只是战场改变了。而这一次,她有了新的盟友,也即将迎来新的生命。
手机响起,是陈默发来的消息:“今晚想吃什么?我下厨。”
苏小暖微笑着回复,抬头望向天空。暮色渐染,繁星初现。在这个技术与人性交织的时代,每一天都是新的挑战,也都是新的希望。
而她,已经准备好了。