如果平均温度做到二十六度，但有一间教室三十五度，你们算成功吗？”唐岑说当然不算。老师又问为什么，既然你们写给程序的目标从头到尾只有“平均温度最低”。
教室里安静了一阵。这个问题没有复杂公式，甚至简单得有点像故意刁难，可原既白盯着屏幕上那几个数字，反而很久没有动。程序并没有做错任何事。它把有限的冷气更多分给最容易降低整体平均值的区域，因此有些本来就比较凉的地方变得更凉，而那些降一度需要付出很大代价的西晒教室反而被放弃了一部分。从它的目标看，这甚至非常聪明。真正的问题在于，人说的是“让大家尽可能舒服”，写进去的却是“让平均值尽可能低”。两句话在人脑子里似乎差不多，交给一个只认目标的系统以后，却会走向完全不同的结果。
林沛最先把椅子往后挪了一点，说那就把最热区域也限制住，比如任何教室不能超过三十度。唐岑又问，如果为了让最后一间从三十点一降到二十九点九，需要牺牲其他十间教室两度怎么办。三个人很快发现，所谓“舒服”并不是一个藏在数据里等待他们发现的数字，而是一组价值判断：平均体验重要，最差的人也重要；节电重要，但极端高温不能接受；二十个人都稍微难受，和十九个人舒服、一个人特别难受，并不能只靠平均数决定谁更好。罗老师没有告诉他们标准答案，只在白板上写了一句极普通的话：**系统不会替你理解“本来想要什么”，它只会尽力完成“你真正写了什么”。**
原既白当天晚上一直在想这句话，却没有把它抄进自己的笔记。他见过很多“模型不够准”的问题，也见过传感器本身可能漂移，眼下这件事却不一样：数据可以全对，程序可以完美执行，结果仍可能令人无法接受，因为错误发生在最前面——人根本没把自己的意图说清楚。更麻烦的是，有时人自己也不知道真正想要什么。你只有看到五楼那间三十二度的教室以后，才会突然意识到“平均二十七度”并不是你在乎的全部。很多目标不是先写好再交给系统，而是在结果伤到某个人以后，人才第一次发现自己漏掉了什么。
江遥那边完全没有时间听他讲这些。她的暑期训练从第一天就进入高强度，七名重点组学生和高三留下来的几个人一起上课，每三天一次理论限时，每周两次实验。去年省队第十三以后，她最害怕的实验正在一点点从弱项变成稳定项，但这种“稳定”不是突然开窍，而是靠大量重复换来的。第一周第四天，她从下午两点一直做到六点，只为了把同一组测量结果的波动压下来。
本章未完，请点击下一页继续阅读！