Всем привет!
Возникла проблемка.
Я тут заметила,что у меня индексируются страницы и теги - вот такое в индексе _site.ru/page/7/, ну и теги соответственно. И это при том, что в robots.txt у меня прописано так:
User-agent: *
Disallow: /page/
Disallow: /tag/
Решила для Яндекса отдельно запретить
User-agent: Yandex
Disallow: /page/
Disallow: /tag/
Но после того, как прописала это отдельно для Яндекса, он еще новые теги проиндексировал.
Возникает вопрос: я что-то неправильно указала в robots? или причина еще в чем-то может быть?
- 06.02.2013 15:11
- 06.02.2013 15:29
лишний слэш в конце, вот так надо: Disallow: /page
Спасибо сказали:
dolem(06.02.2013), - 06.02.2013 15:37
Avot, а для тега тоже лишний слеш? получается так надо /tag ?
- 06.02.2013 15:49
dolem, да
- 06.02.2013 16:28
Спрошу тут, почти по теме
как открыть к индексации мтраницы с комментариями типа:
/comment-page-1/
/comment-page-2/
/comment-page-3/
а остальные комментарии закрыть
типа таких:
#comment-3674
и как проверить действительно ли страница открыта/закрыта к индексации, нет ли ошибок, может есть какой либо сервис? - 06.02.2013 16:35
dolem, У Александра Алеева можете посмотреть:
_http://alaev.info/blog/post/3900Спасибо сказали:
dolem(06.02.2013), - 06.02.2013 17:06
Тэги топика:
- disallow,
- page,
- robots,
- user-agent,
- закрыть,
- индексация,
- комментарий,
- отдельно,
- прописать,
- страница,
- страницы,
- тег,
- теги,
- тип,
- яндекс
Похожие темы
| Темы | Раздел | Ответов | Последний пост |
|---|---|---|---|
Как закрыть от индексации страницы от поисковых роботов? | Общие вопросы поисковой оптимизации | 9 | 24.11.2012 14:23 |
Подскажите куда вставить теги в коде страницы для адсенс | PPC и контекстная реклама | 0 | 12.04.2012 21:06 |
Как закрыть от индексации такие страницы? | Вопросы от новичков | 2 | 10.02.2012 15:06 |





