Нужно ли убирать адаптив и прочее в роботсах?

(Ответов: 9, Просмотров: 527)
  1. Студент Аватар для Tevton
    • Регистрация: 12.06.2011
    • Сообщений: 34
    • Репутация: 2
    Приветствую, коллеги.
    Вопрос такой... Есть сайт на битриксе. Генерит кучу урлов, типа
    _http://site.ru/catalog/elektricheskie-pechi/?show=80
    Насколько я понимаю, это лучше спрятать от поисковиков, дабы дублей не плодилось, контент ведь тот же. Синтаксис правильный?

    Disallow: /?show=


    И второй вопрос. Так же есть параметры /?adaptive=false , /?adaptive=true
    В строках браузера его не видно, но Netpeak Spider его находит. Стоит ли спрятать это от поисковика? И синтаксис подскажите .пожалуйста, если стоит прятать

    Корзину так же лучше спрятать? Как бы для целей и прочего, может и полезно. Но ведь для поисковика корзина всегда пустая...
    /basket/
    Последний раз редактировалось Tevton; 23.12.2015 в 14:22.
    • 0
  2. Рождённый в СССР Аватар для Gann
    • Регистрация: 30.04.2012
    • Сообщений: 1,073
    • Репутация: 310
    Tevton, доброго дня!

    Нет, не правильно.

    Для исключения _http://site.ru/catalog/elektricheskie-pechi/?show=80 надо в роботс добавить:
    Disallow: *?show=

    Аналогично для остального:

    Disallow: *?adaptive=

    Если контент на страницах одинаковый, то прячьте.
    • 2

    Спасибо сказали:

    ruslang84(23.12.2015), Tevton(23.12.2015),
  3. Дипломник
    • Регистрация: 16.09.2013
    • Сообщений: 128
    • Репутация: 16
    Gann, прошу прощения, подскажите насчет синтаксиса:
    вот вы указали выше, что вместо / надо прописать *
    я вот здесь _https://yandex.ru/support/webmaster/controlling-robot/robots-txt.xml не нашел ничего про это..
    не объясните подробно? спасибо
    • 0
  4. Рождённый в СССР Аватар для Gann
    • Регистрация: 30.04.2012
    • Сообщений: 1,073
    • Репутация: 310
    MaxPlaton,

    ну как же?! Вот здесь https://yandex.ru/support/webmaster/...sterisk-dollar написано про эти символы. Раздел прямо так и называется "Использование спецсимволов * и $".

    Цитирую:

    User-agent: Yandex
    Disallow: /cgi-bin/*.aspx # запрещает '/cgi-bin/example.aspx'
    # и '/cgi-bin/private/test.aspx'
    Disallow: /*private # запрещает не только '/private',
    # но и '/cgi-bin/private'
    • 0
  5. Дипломник
    • Регистрация: 16.09.2013
    • Сообщений: 128
    • Репутация: 16
    Gann, да но / то все равно указывается..
    получается примерно как-то так: Disallow: /*?show=
    я вот со / не понимаю вашу логику

    ---------- Сообщение добавлено 17:03 ---------- Предыдущее 17:02 ----------

    вернее все-таки так Disallow: /?show=

    ---------- Сообщение добавлено 17:05 ---------- Предыдущее 17:03 ----------

    или это типа сократить другие возможные варианты с show?
    • 0
  6. Рождённый в СССР Аватар для Gann
    • Регистрация: 30.04.2012
    • Сообщений: 1,073
    • Репутация: 310
    MaxPlaton, да не моя это логика, а правила Яндекса) (вернее - правила не Яндекса, а правила обработки файла robots.txt)

    Деректива, которую вы указываете

    Disallow: /?show=

    будет запрещать только

    _http://site.ru/?show=

    А вот деректива

    Disallow: *?show=

    запретит индексирование

    /catalog/elektricheskie-pechi/?show=23, /catalog/?show=345, /elektricheskie-pechi/?show=56546 и /?show=456546

    п.с. у вас сайт в Яндекс.Вебмастер добавлен? Или в "Инструменты для вебмастеров" от Google? Там есть инструменты "Анализ robots.txt". Попробуйте сами... поиграйтесь с настройками)
    Последний раз редактировалось Gann; 23.12.2015 в 18:19.
    • 0
  7. Дипломник
    • Регистрация: 16.09.2013
    • Сообщений: 128
    • Репутация: 16
    Gann, обязательно сегодня поиграюсь)
    • 0
  8. Дипломник Аватар для umarkt-stepanov@yandex.ru
    • Регистрация: 27.12.2015
    • Сообщений: 202
    • Репутация: 44
    Работу настроек роботса лучше потом проверить в вебмастере яндекс в разделе "Настройка индексирования" ->"Анализ robots.txt"
    там можно ввести пачку нужных/ненужных для индексации урлов и проверить будут ли они индексироваться или нет.
    Последний раз редактировалось umarkt-stepanov@yandex.ru; 27.12.2015 в 23:16.
    • 0
  9. Студент Аватар для _DXlink
    • Регистрация: 28.12.2004
    • Сообщений: 68
    • Репутация: 18
    • Webmoney BL: ?
    Для Битрикса закрывайте все урлы со знаком вопроса от индексации. Кроме постраничной навигации, если вы не привели её к нормальному виду.

    Allow: /*?PAGEN_1=*

    Ну и всякие нужные урлы можно исключить, хотя ЦМС позволяет полностью отказаться от ? в адресах.
    Куплю ваш сайт.
    • -1
  10. Студент Аватар для Tevton
    • Регистрация: 12.06.2011
    • Сообщений: 34
    • Репутация: 2
    Спасибо за советы!

    Последний вопрос остался))) Нужно ли убирать adaptive=true, adaptive=fаlse

    Как бы контент тотже самый, и в выдаче его не видно. Но Вот Netpeak Spider эти урлы находит...
    • -1

Похожие темы

Темы Раздел Ответов Последний пост
Стоит ли убирать систему инвайтов?
Обсуждение форума и ваши предложения 59 26.11.2015 15:35
Убирать ошибки сайта от Валидатора ?
Вопросы от новичков 4 27.07.2015 22:33
Стоит ли убирать ссылку в заголовке статьи?
Общие вопросы поисковой оптимизации 6 19.11.2014 15:37
Убирать ли рекламу при заявке в GGL?
gogetlinks 17 20.03.2012 04:30
Мониторинг доров, статы и прочее.
Софт, скрипты, сервисы 9 16.09.2009 13:21

У кого попросить инвайт?

Вы можете попросить инвайт у любого модератора:

Информеры