上线前核对抓取与索引配置,核心是确认三件事:搜索引擎能拿到移动端页面、拿到的是正确版本、拿到后允许被索引。对移动网站建设而言,常见做法有两种:一是移动端与桌面端同URL自适应,二是移动端独立URL并配置对应关系。两种方案核对重点不同,下面分别说明适用条件、具体做法与验收信号。
自适应方案指移动端和桌面端使用同一套URL,靠CSS和视口适配。独立移动站指移动端使用单独URL,例如桌面端为example.com/page,移动端为m.example.com/page。
如果站点刚上线且只有一套响应式模板,按自适应方案核对即可;如果已经存在独立移动域名或独立移动路径,就必须同时核对两套URL的关系配置。
抓取是索引的前提。上线前应逐项检查:
robots.txt检查是否误屏蔽移动端路径。重点看是否出现Disallow: /m/或Disallow: /mobile/这类规则。判断结果:若移动端被屏蔽,抓取请求会被拒绝,页面不会进入索引。200表示可正常获取;返回403、404或5xx说明存在访问限制或路由错误。noindex。查看移动端HTML的<meta name="robots">,确认没有noindex。判断结果:存在noindex时,页面可被抓取但不会进入索引。这些检查中,屏蔽规则和noindex属于“已经定位的原因”类问题,能直接解释不收录;而抓取失败也可能是服务器不稳定、DNS解析异常或CDN拦截造成,需要结合返回码和日志进一步区分,不能只凭一个现象下结论。
自适应方案下,移动端和桌面端共用URL,不需要额外声明对应关系,但要确认移动端内容与桌面端一致,且没有被单独设置noindex。
独立移动站方案下,需要在桌面端页面添加指向移动端的<link rel="alternate" media="only screen and (max-width: 640px)" href="移动端URL">,并在移动端页面添加指向桌面端的<link rel="canonical" href="桌面端URL">。核对时注意:
noindex或robots.txt屏蔽。适用条件:只有当移动端URL与桌面端URL不同时,才需要这套对应关系。如果移动端和桌面端是同一URL,配置canonical指向自己即可,不需要alternate声明。
完成配置后,可用以下信号判断是否通过:
200,且返回内容包含正文而非空模板。robots.txt中没有屏蔽移动端路径的规则。noindex。常见误判是把“页面能打开”等同于“能被抓取和索引”。能打开只说明用户可访问,抓取还受robots规则、返回码和渲染方式影响,索引还受noindex和canonical影响。另一个误判是只检查首页,忽略栏目页和详情页,而问题往往出现在模板层,需要抽查多个页面类型。
下一步:选取移动端首页、一个栏目页和一个详情页,按上面的返回码、robots、noindex、canonical四项逐页记录结果,再决定是修正屏蔽规则、调整对应关系,还是补充渲染内容。