使用 robots.txt 并不能完全防止该网页被编入索引。 要想彻底防止该网页被编入索引,您应该使用“noindex”,或使用身份验证禁止匿名访问该网页。

在屏蔽的页面中添加以下代码

<meta name='robots' content='noindex, nofollow' />

删除 robots.txt中屏蔽所需页面的行,因为robots.txt屏蔽后,搜索引擎就看不到上面的代码,也就不会生效。