从江遥那里学到最多的并不是某种具体的“由下而上”方法，而是允许一个问题暂时只有局部答案。以前他看见更高层结构时，会觉得局部工作只是通往高处的台阶；现在慢慢发现，很多高处根本不是预先在那里等人的，它们可能只是大量局部事实被认真看过以后，才逐渐有了轮廓。江遥见他半天不说话，马上警告：“你别又在脑子里总结。”原既白笑了，说没有。她显然不信，伸手在他掌心捏了一下。
第二天上午，原既白去了罗老师说的那个小会。暑期研习已经正式结束，大多数学生陆续返家，原来的大教室空了许多，只剩六个被留下来的学生。林沛、唐岑也在，另外三人来自其他小组。带他们的年轻老师姓叶，看起来不到三十，穿一件普通灰色T恤，没有拿任何炫目的AI演示开场，只在投影上放出两张几乎一样的图片：都是草地上的一匹马。叶老师问，如果一个程序把两张都判断成“马”，而且在一千张测试图片里答对九百五十张，能不能说它已经认识马。
没有人立即回答。唐岑先说至少不能完全说明，林沛则问测试图片是不是和训练图片来自同一个来源。叶老师没有评价，只把其中一张图的边缘稍微裁掉一点。马仍完整地站在那里，可程序的判断突然从“马”变成了另一种动物。再裁一次，又变回来。几个人起初都以为是模型不稳定，直到原图被放大，他们才注意到左下角有一块非常模糊的水印。训练数据中，大量“马”的图片恰好来自同一批图库，因此也带着相似的角标。
叶老师没有说“模型作弊”，只问：“如果它发现这个标记比耳朵、鬃毛、腿都好用，为什么不用？”
教室里有人笑了一声。
原既白却立刻想起奶奶那句：“它是看豆，还是看报纸？”
机器并没有被要求理解“马是什么”。人给它的是一堆图片和对应答案，然后要求它尽可能把答案猜对。水印如果更稳定，它就用水印；背景如果更稳定，它就用背景。从它经历过的世界看，这甚至可能是一条非常好的规律。真正犯错的是人先在脑子里把“测试正确率高”翻译成了“它认识马”，然后忘记这两句话中间其实隔着一整片没有被证明的土地。
叶老师很快又问：“那我们把水印全部删掉，它是不是就真正学会马了？”
唐岑马上摇头，说可能还有草地、摄影角度、光线、图像来源。另一个学生说甚至相机型号都有可能留下看不见的特征。叶老师点了点头，没有继续列，只说接下来两个月的任务恰恰不是追求一个更高分的
本章未完，请点击下一页继续阅读！