Вопрос насчет robots.txt. Подскажите!

(Ответов: 2, Просмотров: 422)
  1. Опытный Аватар для Dancan
    • Регистрация: 03.08.2011
    • Сообщений: 348
    • Репутация: 77
    • Webmoney BL: ?
    Приветствую всех. Что-то у меня забралось сомнение насчет одной настройки блокирования от индексации страниц в robots.txt
    Подскажите!

    Имеется 2 страницы к примеру вот с такой вложенностью:
    http://Site.ru/catalog/tovar1
    http://Site.ru/catalog/tovar1/brend

    Если я пропишу в robots.txt
    Disallow: http://Site.ru/catalog/tovar1/*

    Это запретит доступ к страницам типа:
    http://Site.ru/catalog/tovar1/brend
    http://Site.ru/catalog/tovar1/brend2
    http://Site.ru/catalog/tovar1/brend/343
    http://Site.ru/catalog/tovar1/brend34/5434

    В вот доступ к странице
    http://Site.ru/catalog/tovar1

    останется ли?
    Оптовая продажа ссылок через партнера SAPE. Выжми из сапы БОЛЬШЕ!
    • 0
  2. Гуру Аватар для Matsa
    • Регистрация: 11.02.2012
    • Сообщений: 1,344
    • Репутация: 558
    • Webmoney BL: ?
    1. Вы не правильно пишите путь. Нужно писать от корня сайта, вот так
    Disallow: /catalog/tovar1/*

    2. Директива Disallow сама по себе "жаная", т е написав /catalog/tovar1/, это будет подразумевать и /catalog/tovar1/123 и /catalog/tovar1/qwe, т е * писать не надо
    Disallow: /catalog/tovar1/

    3. Правило Disallow: /catalog/tovar1/ не запретит индексировать адрес Disallow: /catalog/tovar1, однако так поступать я не рекомендую. Лучше запретить индексировать таким правилом Disallow: /catalog/tovar1, но разрешить индексировать нужный урл директивой Allow:

    Disallow: /catalog/tovar1
    Allow: /catalog/tovar1$

    Хотя если напишите
    Disallow: /catalog/tovar1/

    работать тоже будет
    Читаю https://bankstoday.net/ и стал разбираться в экономике и финансах
    • 1

    Спасибо сказали:

    Dancan(13.10.2015),
  3. Опытный Аватар для Rush Agency
    • Регистрация: 27.01.2015
    • Сообщений: 293
    • Репутация: 28
    Dancan, Dancan,
    1. Верное замечание от Matsa, вы не правильно пишите директивы robots.txt.
    Рекомендуем изучить:
    http://www.myrobotstxt.ru/page/struk...ajla-robotstxt
    http://www.myrobotstxt.ru/page/naibo...ki-v-robotstxt
    2. Вы можете узнать как робот будет учитывать директивы с помощью инструмента https://webmaster.yandex.ru/robots.xml.
    • 1

    Спасибо сказали:

    Dancan(14.10.2015),

Похожие темы

Темы Раздел Ответов Последний пост
Вопрос насчет укорачивателей ссылок
Вопросы от новичков 6 22.01.2015 01:06
Подскажите насчёт накрутки вк
Вопросы от новичков 4 03.12.2013 23:17
Подскажите насчет проксей
Оффтоп и свободные темы 4 04.05.2013 04:34
Вопрос к гуру SEO насчет стронг
Общие вопросы поисковой оптимизации 0 16.08.2011 10:52
Вопрос насчет фрихоста
Партнерские программы 5 05.08.2009 10:20

У кого попросить инвайт?

Вы можете попросить инвайт у любого модератора:

Информеры