Видел много случаев когда страница запрещена в robots.txt , но есть в индексе. Как загнать?
- 08.12.2012 20:44
- 08.12.2012 21:01
В большинстве случаев, это страницы попавшие в индекс еще до появления директивы, или бот нашел страницу раньше чем robots.txt.
Ну а если ПСы уже усвоили рототс, то никак. Ну или нормальным путем – Allow: /запрещенная-страницаСпасибо сказали:
Далер(09.12.2012), - 08.12.2012 22:39
Гугль бот иногда игнорирует роботс, они рекомендуют страницу писать через мета, алаев даже статьи расписывал на эту тему.
С яндексом не встречал такого, не могу сказать точно. - 08.12.2012 22:47
patrician, вот про гугл что-то я не уверен;
закидывал запрет на страницы пагинации нового сайта через мета-теги - таки торчат почему то в индексе, думаю теперь в роботс засунуть... - 08.12.2012 22:51
Удалите через ГВМ, через день исчезнут
- 09.12.2012 10:39
Похожие темы
| Темы | Раздел | Ответов | Последний пост |
|---|---|---|---|
Загнать бэки в индекс | Вопросы от новичков | 9 | 23.07.2012 20:51 |
Помогите загнать 7 страниц в индекс Яндекса | Поисковые системы | 3 | 29.05.2012 07:12 |
Помогите загнать 7 страниц в индекс Яндекса | Оффтоп и свободные темы | 3 | 29.05.2012 07:12 |
Как загнать сайт в индекс. | Оффтоп и свободные темы | 3 | 23.05.2012 00:37 |
Как быстро загнать сайт в индекс ? | Вопросы от новичков | 13 | 26.03.2012 18:38 |





