Ребята, привет.Подскажите,правильн о я понимаю,что в этом случае ПС будут индексировать все страницы сайта?
Пример, Роботс прилагаю
User-agent: *
Host: www.site.ru
Disallow:
Sitemap: http://site.ru/sitemap.xml
- 20.12.2015 02:25
- Регистрация: 17.11.2015
- Сообщений: 40
- Репутация: 3
- 20.12.2015 02:28
Да, все правильно - можете посмотреть в хелпе Яндекса - там есть такой пункт "Директивы Allow и Disallow без параметров":
yandex.ru/support/webmaster/controlling-robot/robots-txt.xml
P.S. Только директиву HOST надо прописывать отдельно, желательно для User-Agent: Yandex (остальные ПС ее не учитывают), хотя я обычно прописываю ее последней строкой.Последний раз редактировалось WSairus; 20.12.2015 в 02:32.
- 20.12.2015 03:05
- Регистрация: 17.11.2015
- Сообщений: 40
- Репутация: 3
А что значит,прописывать Host отдельно?
- 20.12.2015 03:16
VladimirM,
PHP код:Т.е. вы пишете отдельно директивы для Яндекса и остальных ПС, при этом указывая Host только Яндексу.User-agent: Yandex
Disallow:
Host: www.site.ru
User-agent: *
Disallow:
Sitemap: http://www.site.ru/sitemap.xml
- 20.12.2015 03:16
- 20.12.2015 03:18
Coder,
Спасибо сказали:
Coder(21.12.2015), - 20.12.2015 12:12
- Регистрация: 17.11.2015
- Сообщений: 40
- Репутация: 3
Всем спасибо
- 20.12.2015 13:48
west0293, :)
VladimirM, пожалуйста) - 22.12.2015 18:48
- Регистрация: 17.11.2015
- Сообщений: 40
- Репутация: 3
- 22.12.2015 18:51
- Регистрация: 17.11.2015
- Сообщений: 40
- Репутация: 3
Похожие темы
Темы | Раздел | Ответов | Последний пост |
---|---|---|---|
robots.txt | Вопросы от новичков | 9 | 23.04.2013 20:23 |
АГС или robots.txt | Вопросы от новичков | 11 | 04.12.2012 20:37 |
ROBOTS в DLE. | DLE | 4 | 10.05.2012 12:52 |
robots.txt | Вопросы от новичков | 3 | 18.03.2011 15:03 |
robots.txt | Прочее | 0 | 18.03.2011 10:44 |