Студент | Здравствуйте. Привожу пример из жизни. Есть в Беларуси один портал достаточно большой, так вот, как-то было дело щемился робот Яндекса его индексировать ръяно и очень сильно грузил сервак, сотрудники хостера посчитали, что ддосят их, поэтому заблокировали доступ с IP, индексация прекратилась. Техподдержка Яндекса ответила, что все вопросы к хостеру, это он заблокировал роботу доступ. Вот тут-то и понадобилась данная директива пример можете посмотреть тут: http://relax.by/robots.txt Надо иметь серьезный трафик и сайт тоже, чтобы данная директива действительно понадобилась. |