做网站索引查询之前,先把“查什么页面、用哪个搜索引擎、由谁负责、什么时间点”这四件事写成一句话,再准备下面五项信息。缺少其中任何一项,多人协作时就容易出现“你查的是A站,我查的是B站”“你说没收录,其实是被robots.txt挡住了”这类返工。
要查的是具体URL,不是“网站”。准备一份表格,至少包含三列:完整URL、页面类型(首页/栏目页/详情页/分页)、负责人。如果页面数量多,先按目录抽样,例如每类取5到10条,并注明抽样依据。
https://example.com/a/1.html。适用条件:页面数少于几百条可全量列;超过几千条建议按模板抽样,并写明抽样规则,方便复核。
索引查询的第一步不是看有没有收录,而是确认搜索引擎能不能抓。需要准备:
<meta name="robots"> 的值,是否含 noindex。判断标准:robots.txt 的抓取限制不等于可靠的索引移除,它只影响抓取,已收录页面仍可能出现在结果中;反过来,noindex 才是针对索引的指令,但需要页面能被抓取到才会生效。站点地图不保证收录,它只是提交线索。HTTPS 不保证安全无漏洞,也不保证排名。把这些边界先写进交付文档,能减少“为什么提交了还没收录”的争论。
同一批URL,不同人查出的结果可能不同。检查前要固定:
site:example.com/a/,而不是只写“查一下收录”。结果说明什么:网页搜索结果反映的是该引擎当时的呈现,站长平台的“已编入索引”反映的是另一套口径。两者不一致时,不要直接判定谁对谁错,先记录差异,再分别核查。不同搜索引擎支持情况须分别核查,不能拿一个引擎的结果推断另一个。
对每条URL,按顺序记录以下检查项,并写明判断结果:
判断标准:如果URL返回200、robots允许抓取、没有noindex,但查询不到,可能原因包括尚未被抓取、被抓取但未索引、被canonical归并到其他URL。这些是不同解释,不要断言唯一原因。已经定位的原因,例如明确写了noindex,才可以直接下结论。
把上述信息整理成一张表,每条URL一行,列包括:URL、页面类型、状态码、robots结论、noindex结论、canonical指向、查询引擎、查询语句、查询日期、查询结果、负责人、备注。备注里只写事实,例如“返回301到新地址”,不写“应该没问题”这类判断。
协作时约定一个规则:任何人修改URL清单或查询语句,都要在备注里写明修改时间和原因。这样下次复查时,能直接对比两次结果,而不是重新走一遍流程。
下一步:拿你手头最需要确认的那一条URL,按上面五项填一遍。如果某一项填不出来,那一项就是检查前还需要补的信息。