robots.txt 生成器(选择 Allow / Disallow)
通过选择 Allow / Disallow 规则,快速构建 robots.txt 模板。
此工具用于控制抓取行为,并不保证提升搜索排名。
会对高风险的全站屏蔽进行警告并要求确认
robots.txt 模板生成器
通过实用表单创建爬虫限制设置。生成的结果为纯文本,可直接粘贴为 robots.txt。
使用方法
- 设置 User-agent,并添加 Allow / Disallow 规则。
- 如有需要,添加 Sitemap URL(支持多行)。
- 复制或下载生成的 robots.txt 输出。
robots.txt 的作用
- robots.txt 用于控制抓取行为。
- 索引控制可能还需要借助 noindex 等其他方法。
- robots.txt 应放在站点根目录,例如 https://example.com/robots.txt。
FAQ
它会提升 SEO 排名吗?
robots.txt 的目的在于控制抓取,并不保证提升排名。
Disallow: / 很危险吗?
是的。Disallow: / 可能会阻止整个站点被抓取。此工具会给出强警告,并在复制 / 下载前要求确认。
也可以加入 Sitemap 行吗?
可以。在 Sitemap 输入框中添加 URL 后,工具会自动输出 Sitemap: ... 行,并支持多个 URL。