Имеется большой список урлов.
Интересует, какие из них запрещены к индексации в соответствующем роботсе. (учитывая юзерагенты)
Если чекаются и метатеги на предмет noindex, было бы вообще классно
Массовая проверка урлов на запрет в robots.txt - подскажите скрипт, софт или сервис
(Ответов: 18, Просмотров: 2762)
- 12.08.2011 22:11
- Регистрация: 10.05.2011
- Сообщений: 216
- Репутация: 43
- 12.08.2011 23:17
- Регистрация: 29.11.2009
- Сообщений: 131
- Репутация: 32
Если для своего сайта - то в вебмастере яндекса есть проверка на запрет индексации в robots.txt Там нигде про ограничение на количество проверяемых урлов нет.
- 12.08.2011 23:28
Весёлый химик,
в яндексе при проверке стоит капча, и проверку можно делать только по одному урлу за раз.
M25
к сожалению такого не встречал - 12.08.2011 23:42
RDS выполняет эти задачи
- 12.08.2011 23:49
- Регистрация: 29.11.2009
- Сообщений: 131
- Репутация: 32
tanatos, эм, у меня капчи нет, может она при большом количестве проверок появляется. Я имел в виду, что свой сайт добавить в яндекс.вебмастер.
- 12.08.2011 23:57
- Регистрация: 10.05.2011
- Сообщений: 216
- Репутация: 43
сайт не мой. имеется большой список урлов с разных доменов
rds явно не подходит - 13.08.2011 00:27
Попробуй программу Linking The Web должна подойти по твоим критериям.
- 13.08.2011 00:38
У меня стоит Linking The Web , то проверки на запрет в robots не нашел. Там проверяется только на наличие на странице.
Спасибо сказали:
M25(13.08.2011), - 13.08.2011 01:01
- Регистрация: 10.05.2011
- Сообщений: 216
- Репутация: 43
- 13.08.2011 01:09
M25, можно уточнить, чем именно не подходит RDS ? Что необходимо другое? В чем должно быть отличие от него? напишите более подробно - проще будет дать ответ.
Похожие темы
Темы | Раздел | Ответов | Последний пост |
---|---|---|---|
Подскажите пожалуйста нужный софт | Софт, скрипты, сервисы | 33 | 15.11.2015 02:36 |
Скрипт для парсинга урлов с гугл картинок (по списку запросов) | Софт, скрипты, сервисы | 1 | 28.10.2011 22:19 |
массовая проверка доменов | Софт, скрипты, сервисы | 3 | 18.01.2011 14:54 |
Массовая проверка бидов, 11 ppc max 1000 кеев за раз. bulk bidchecker от Clitika.com | PPC и контекстная реклама | 0 | 13.01.2011 00:49 |
Лучший закладочник сабмиттер? (скрипт, сервис, софт) | Софт, скрипты, сервисы | 9 | 05.11.2010 13:45 |