Генератор на robots.txt (изберете Allow/Disallow)

Брзо составете шаблон robots.txt со избирање правила Allow / Disallow.

Оваа алатка е за контрола на crawl. Не гарантира подобрување на рангирањето.

Ризичните блокирања на цел сајт се откриваат со предупредување и потврда

Генератор на шаблон за robots.txt

Креирајте практични поставки за блокирање на crawler-и преку форма. Генерираниот резултат е обичен текст што можете директно да го залепите како robots.txt.

Како да се користи

  1. Поставете User-agent и додајте Allow/Disallow правила.
  2. По потреба додајте Sitemap URL-и (поддржани се повеќе линии).
  3. Копирајте го или преземете го генерираниот robots.txt излез.

Што прави robots.txt

  • robots.txt го контролира однесувањето на crawl.
  • Контролата на индексирање може да бара други методи како noindex.
  • Поставете robots.txt во коренот на сајтот, на пример https://example.com/robots.txt.

FAQ

Дали ова ќе го подобри SEO рангирањето?

Целта на robots.txt е контрола на crawler-и. Не гарантира подобрување на рангирањето.

Дали Disallow: / е опасно?

Да. Disallow: / може да го блокира crawl-ирањето за целиот сајт. Оваа алатка прикажува силно предупредување и бара потврда пред копирање/преземање.

Може ли да вклучам и Sitemap линии?

Да. Додајте URL-и во полето Sitemap и алатката автоматски ќе изведе линии Sitemap: ... , вклучително и повеќе URL-и.