模型，而是**想办法让一个高分模型暴露自己**。换背景、换来源、交换线索、故意制造冲突，什么都可以。最后不用告诉他“准确率提高到多少”，只需要回答两个问题：它在哪些情况下失败，以及这些失败让你知道它原来依赖了什么。
任务听上去甚至不像竞赛，倒像专门拆自己的台。林沛问，如果无论怎么换数据都不失败怎么办。叶老师笑了一下，说那当然很好，不过先别急着相信自己已经做到了。模型真正依赖的特征可能不是人肉眼能直接看出来的，所以他们能做的不是一次性证明“它真的理解了”，而是不断尝试换一种世界，看它还能不能站住。
原既白没有继续追问“理解”的定义。他记得江遥昨天那句：先把马认清楚。
小会结束以后，他当场报名参加。
回县里的车上，原既白一直没有看新资料，只把叶老师发来的第一批图片存在电脑里。他本来很容易继续想到更大的问题：学生通过考试是不是也可能只学会了考试的背景；一个企业成功一次，是不是只是恰好踩中了环境；一个国家的制度在某段历史里有效，是不是也存在类似的“训练分布”；甚至一个人对于自己的认识，会不会也是在有限经验里学出来的一种过度拟合。所有这些联想都往外冒，他却第一次有意识地把它们先放在一边。问题可以很大，但今天能做的事情很小——先找出那匹马为什么在裁掉一角以后就不再是马。
到家当晚，他重新把奶奶的豆子找出来。老人正在院子里摇蒲扇，看见他刚回来就摆手机和台灯，问了一句：“又看豆？”原既白说这回不训练，先看它怎么错。奶奶显然没觉得二者有什么区别，只说别把种子弄乱。原既白从袋子里挑出几十颗，分别放到木桌、白纸、旧报纸、瓷盘和奶奶手掌上拍照，还故意改变远近和光线。模型在白纸和木桌上表现还算稳定，换到报纸时错误增加，放到奶奶的手掌上以后却突然错得更明显。
他没有像过去那样立即重新训练，而是先把失败照片全部单独存下来。
其中有一张尤其有意思。豆子本身很饱满，奶奶明确说可以留，模型在白纸上也一直判断正确；放到她掌心以后，却连续三次判成坏豆。原既白把照片放大，看了半天也没看出是皮肤颜色、皱纹、阴影还是拍摄距离造成的。以前这种“不知道”会让他很快去找解释，现在他只是把照片编号，记下条件，准备第二天一项一项换。
新建文件夹时，他在名字框里敲了“bean_failures”，想了想，又改成中
本章未完，请点击下一页继续阅读！