谷歌表示,隐藏网站在搜索结果中的最佳方法是使用密码,但您还可以考虑其他选项。
YouTube 上的 Ask Googlebot 视频系列最新一期重点介绍了这一主题。
谷歌的约翰·穆勒回答了一个问题,即如何阻止内容被搜索引擎索引,以及网站是否可以这样做。
“简而言之,是的,你可以,”穆勒说。
有三种方法可以将网站从搜索结果中隐藏:
- 使用密码
- 方块爬行
- 块索引
网站可以选择完全不被索引,也可以选择被索引,但使用密码隐藏内容以躲避 Googlebot 的抓取。
阻止 Googlebot 抓取内容并不违反网站管理员准则,只要同时也阻止用户访问该内容即可。
例如,如果网站在 Googlebot 抓取时需要密码保护,那么用户也必须能够通过密码访问该网站。
或者,该网站必须设置指令,阻止 Googlebot 抓取或索引该网站。
如果你的网站向 Googlebot 提供的内容与向用户提供的内容不同,就可能会遇到问题。
这叫做“伪装”,违反了谷歌的准则。
明确了这一点之后,以下是向搜索引擎隐藏内容的正确方法。
三种方法让搜索引擎无法抓取内容
1.密码保护
如果你想保护网站的私密性,使用密码锁定网站通常是最好的方法。
设置密码可以确保搜索引擎和普通网民都无法看到您的内容。
这是网站开发过程中常见的做法。将网站发布到线上平台,既能方便地与客户分享开发进度,又能防止谷歌访问尚未准备好上线的网站。
2. 方块爬行
阻止 Googlebot 访问您网站的另一种方法是屏蔽抓取。这可以通过 robots.txt 文件来实现。
通过这种方法,人们可以通过直接链接访问你的网站,但它不会被“守规矩”的搜索引擎收录。
穆勒表示,这不是最佳选择,因为搜索引擎可能仍然会索引网站的地址,而无法访问其内容。
这种情况虽然很少发生,但你应该意识到这种可能性。
3. 块索引
第三种也是最后一种方法是阻止搜索引擎索引您的网站。
为此,您需要在页面中添加 noindex robots 元标记。
noindex 标签告诉搜索引擎不要索引该页面,直到……为止。 后 它们爬上去。
用户看不到元标签,但仍然可以正常访问页面。
穆勒的最后想法
穆勒在视频结尾表示,谷歌的首要建议是采用密码保护方式:
“总的来说,对于私密内容,我们建议使用密码保护。这样很容易检查密码是否生效,而且可以防止任何人访问您的内容。”
如果内容并非私密内容,或者您只想阻止网站某些部分出现在搜索结果中,那么阻止抓取或索引都是不错的选择。
___
by 马特南部
来源: SEJ






