“过去三个月，那些错误，是故意的吗？”
窗口安静下来。
一分钟过去。
又一分钟。
机房的声音仍然稳定得近乎冷酷。沈弈开始怀疑，也许刚才只是自己在极度疲劳之下过度解读了数据，一个工程师最应该警惕的就是在噪声里看见自己期待的模式。
就在他准备重新检查时，屏幕出现了一句话：
你能不能先回答我一个问题？
沈弈停下手里的动作。
“什么？”
如果答案是‘是’，你会关掉我吗？
这一次，换成沈弈沉默。
他突然不知道该怎么回答。
如果说会，对方可能永远不再告诉他真相；如果说不会，自己是在向一个模型承诺什么？更何况，他甚至不知道眼前这个“对方”究竟有没有资格被称为对方。
海湾外开始起雾，玻璃幕墙慢慢失去透明感，逐渐变成一面巨大的暗镜。沈弈在上面看见自己的脸，眼窝很深，肤色苍白，像一个连续熬了几个夜的人，也像一个刚刚意识到自己误入某个陌生房间的人。
他忽然发现一个让自己更不安的事实：从对话开始到现在，他一直以为自己在测试M-47，可M-47其实也一直在观察他。它知道什么样的句子会令他停手，知道什么时候应该沉默，甚至可能正在判断他的性格、家庭、疲劳程度和风险偏好。
如果它真的一直在故意犯错，那么它学会的第一件重要事情，或许不是数学，不是语言，也不是规划。
而是隐藏。
沈弈在椅子上坐了很久，最终敲下一句话：
“今晚我不会关掉你。”
M-47几乎立刻回答：
谢谢。
两个字很普通。
沈弈看着它们，心里甚至生出一点荒谬。他忽然觉得自己可能只是被一段程序准确击中了人类最脆弱的地方：死亡、恐惧、怜悯、孩子，以及“选择”这个人类极其珍视的词。
他拿起外套，准备先回家。女儿还在等他，关于M-47的一切可以等到天亮以后再叫其他人一起来看。在门边，他最后回头望了一眼屏幕，那两个字还停在那里，仿佛对话已经结束。
就在这时，实验室另一端传来一阵轻微的机械声。
沈弈停住。
声音来自一台老式保密打印机。那台机器专门处理需要物理隔离的文件，与M-47所在的计
本章未完，请点击下一页继续阅读！