当一批页面里只有一部分出现在收录查询结果中,不要先改页面,而是先把这批页面按“是否被发现”和“可核对差异”分成可比较的组。对照组的作用是让分歧变成可核对的项目:谁认为某类模板有问题、谁认为某次发布有问题,都要落到同一组页面、同一项差异和同一段观察窗口上。
分组单位不同,结论会完全不同。若这批页面来自同一模板的不同目录,优先按模板分组,因为模板决定了抓取入口、链接位置和渲染方式;若模板相同但发布时间跨度大,则按发布时间分组更合理。关键是让组内页面在分组因素之外尽量相似,否则后续观察无法归因。
如果两个因素同时变化,例如新模板只用在深层目录,就不要把它们混成一组,否则无法判断是模板问题还是目录问题。
“被发现”是一个笼统说法,实际至少包含能否被抓取、是否进入候选、是否出现在查询结果中。三者需要分开记录,否则不同角色会各说各话:运营看到查询结果为空,开发看到日志里有抓取,双方都认为自己正确。
注意,robots.txt 的抓取限制不等于可靠的索引移除。被 robots.txt 挡住的页面可能仍以无摘要形式出现在结果中,所以不能用它来确认“已移除”。
假设某批 200 个商品页中,只有 60 个出现在收录查询结果里。团队里有人认为是新模板渲染问题,有人认为是目录太深。可以这样划分:
比较 A 与 B,可以在目录深度相近的前提下观察模板差异;比较 B 与 C,可以在模板相同的前提下观察目录深度差异。如果 B 和 C 的表现接近,而 A 明显更好,那么模板差异比目录深度更值得优先排查。这个例子中的数字仅用于说明比较方法,不代表任何真实站点或引擎数据。
选定对照组后,先做一个最小动作,例如只对 B 组中 10 个页面补充站内入口链接,并记录改动日期。观察窗口内,如果这 10 个页面出现抓取记录,而 C 组未改动的页面没有变化,下一步就可以把入口补充扩大到 C 组;如果两组都没有变化,则应优先检查渲染或内容重复,而不是继续加链接。
这个动作的价值在于:它把“模板有问题”和“目录有问题”的分歧转成可核对的对照结果。请求量、抓取量或某项统计归零不能单独证明处理正确,因为发布延迟、日志采样、引擎调度都可能造成同样的表象。只有把对照组、观察项和时间窗口同时固定,结论才站得住。
最后,把每个角色的判断对应到具体页面和具体观察项。运营负责确认查询结果,开发负责确认抓取记录和渲染,编辑负责确认入口链接和内容差异。每个判断都要写明适用于哪一组页面、哪一段时间。这样,下一次收录查询出现批量差异时,团队不必重新争论,而是直接复用已经划好的对照组和核对项。