robots.txt 生成器(选择 Allow / Disallow)

通过选择 Allow / Disallow 规则,快速构建 robots.txt 模板。

此工具用于控制抓取行为,并不保证提升搜索排名。

会对高风险的全站屏蔽进行警告并要求确认

robots.txt 模板生成器

通过实用表单创建爬虫限制设置。生成的结果为纯文本,可直接粘贴为 robots.txt。

使用方法

  1. 设置 User-agent,并添加 Allow / Disallow 规则。
  2. 如有需要,添加 Sitemap URL(支持多行)。
  3. 复制或下载生成的 robots.txt 输出。

robots.txt 的作用

  • robots.txt 用于控制抓取行为。
  • 索引控制可能还需要借助 noindex 等其他方法。
  • robots.txt 应放在站点根目录,例如 https://example.com/robots.txt。

FAQ

它会提升 SEO 排名吗?

robots.txt 的目的在于控制抓取,并不保证提升排名。

Disallow: / 很危险吗?

是的。Disallow: / 可能会阻止整个站点被抓取。此工具会给出强警告,并在复制 / 下载前要求确认。

也可以加入 Sitemap 行吗?

可以。在 Sitemap 输入框中添加 URL 后,工具会自动输出 Sitemap: ... 行,并支持多个 URL。