Проблема с robots.txt, целый день убил чтобы ее решить, но все никак не получается.
В инструментах для веб-мастеров гугла пишет что нет доступа к robots.txt
Хотя в яндексе все хорошо, проверил на правильность и ошибок не было.
Писал хостеру, они пишут что это проблема не на их стороне.
Смотрел в "Просмотреть как Googlebot" там тоже все хорошо.
Что делать я не знаю. Подскажите, может кто сталкивался с данной проблемой.
- 19.08.2013 04:32
- 19.08.2013 08:39
Foka7, я бы начал с анализа логов веб-сервера, конкретно - кто и когда запрашивал robots.txt . Дальше стратегия разветвляется:
1. при запросе файла сайт отдает 404-ю ошибку (проблема в сайте)
2. вообще нет запросов к файлу, хотя они должны быть (проблема не в сайте, а где-то раньше) - 19.08.2013 10:52Гуру

- Регистрация: 09.10.2011
- Сообщений: 1,813
- Репутация: 251
Foka7, урл в студию.
- 20.08.2013 17:06
Мог сервер лежать, когда бот на него заходил. И да, урл поможет.
Похожие темы
| Темы | Раздел | Ответов | Последний пост |
|---|---|---|---|
АГС или robots.txt | Вопросы от новичков | 11 | 04.12.2012 20:37 |
FAQ по robots.txt | Дайджест блогосферы | 12 | 12.02.2012 20:06 |
Robots.txt | Обучающие статьи | 12 | 30.06.2011 10:29 |
robots.txt | Вопросы от новичков | 3 | 18.03.2011 15:03 |
robots.txt | Прочее | 0 | 18.03.2011 10:44 |






