结论先说:问题通常不在自动评分本身,而在人工判断没有被写成可执行的规则。当样本只有几十条时,人工可以靠上下文补齐信息,评分只是辅助;当样本变成几千条、由多人分批处理时,未被写下来的判断标准会先丢失,自动评分再接管,最终结果就会偏离最初的人工结论。要防止替代,需要把人工判断转成可复核的规则,并保留自动评分无法覆盖的例外通道。
一个常见的假设场景:团队用博客推广工具筛出待跟进的外链机会,先人工过一遍,再让自动评分排序。前两百条里,人工挑出的高价值机会和评分排序大致吻合,团队因此认为评分可以信赖。样本扩大到五千条、分给三个人处理后,跟进结果开始出现明显落差——评分高的机会里混进了大量低质页面,而一些真正值得联系的对象被排到后面。
这时容易得出两个相反的结论:一是评分模型不行,二是人工判断本来就不稳定。两种解释都成立一部分,但指向的处理方式完全不同。
解释一:评分维度与真实目标错位。自动评分通常依赖可量化的代理指标,比如页面是否可访问、主题相关词出现频率、外链数量区间。这些指标在小样本里恰好和目标一致,放量后遇到边缘样本就失效。例如一个页面主题词匹配度高,但内容是聚合页,人工一眼能排除,评分却给高分。
解释二:人工判断依赖隐性上下文,无法随规模复制。小样本时,同一个人连续处理,记得上一批的判断口径;放量后换成多人、隔天处理,同样的页面可能得到不同结论。人工判断并没有被写成规则,所以它无法被验证,也无法被自动评分正确替代。此时评分不是“替代”了人工,而是填补了规则空缺。
区分这两种解释,关键看人工结论的一致性。让两名处理者对同一批三百条样本独立判断,记录分歧点。如果分歧集中在某几类页面上,说明是人工标准没写清;如果分歧很小,但评分仍与人工结论系统性偏离,那更可能是评分维度本身不匹配目标。
可以按下面的顺序做一次小规模核查,每一步的产出决定下一步动作:
如果分歧比例高且集中在少数特征,先修人工规则:把这些特征写成明确的排除或降权条件,再让评分参考。如果分歧低但评分与人工结论系统性偏离,说明评分缺少关键维度,应考虑在评分前加一道人工规则过滤,而不是继续调评分阈值。
一个注明假设的短例子:假设三百条样本中,两人分歧六十条,其中五十条都是“内容页还是聚合页”判断不一致。这说明问题出在人工标准,而不是评分。把“聚合页”写成可操作的判定条件后,再让自动评分处理剩余样本,评分与人工结论的偏离通常会收窄。反过来,如果分歧只有十条,但评分把大量聚合页排在前列,那就是评分维度缺失,需要先补规则过滤。
自动评分适合处理边界清晰的多数样本,但不适合处理规则未覆盖的新情况。放量后至少要保留三类人工介入:
这些通道的作用不是否定自动评分,而是让评分承担它擅长的部分:在规则明确之后做规模化排序。规则不明确时,评分越自动,偏离越难被发现。
具体做法是:每次人工判断后,记录判断依据,而不只是记录结论。例如对一条外链机会,不只标记“不跟进”,而是写明“页面为聚合页,无独立内容”。积累到一定数量后,把重复出现的依据归并成规则条目,再把这些条目转化为评分的前置过滤条件或降权项。
这个动作的结果会直接影响下一步:规则条目越多、越具体,自动评分能独立处理的样本比例越高,人工只需要处理规则未覆盖的部分。反之,如果只记录结论不记录依据,放量后人工判断无法复现,评分就会在事实上替代人工,而团队很难察觉偏离从哪一批开始。
需要核对的边界:不同博客推广工具对“可访问性”“相关性”等维度的定义和计算方式并不公开统一,具体字段含义和更新情况需要以工具当前说明为准。规则应建立在自己的业务判断上,而不是照搬某个工具的默认评分口径。