Инструмент "Сканер Google", расположенный в Search Console, научился показывать список файлов, добраться до которых не удалось из-за блокировки в файле robots.txt. Обновление было освещено Джоном Мюллером, специалистом Google по качеству поиска, на личной странице в Google+.

Вложение 19416

Наличие заблокированных файлов может негативно сказаться на представлении страницы и, как следствие, отразиться на ранжировании. Отсутствующие элементы могут принадлежать к одной из трех групп важности:
• Низкий - файлы, которые практически или совсем не сказываются на содержимом страницы;
• Средний - файлы, имеющие некоторый видимый эффект на странице;
• Высокий - файлы, без которых страница становится практически бесполезной.

Мюллер отметил, что во многих тематиках отсутствие доступа к папкам с графическими файлами может оказаться более опасным, чем закрытые папки скриптов или стилей. Для корректной работы индексирующих роботов рекомендуется избавиться от излишних правил сканирования.