lis-enka Опубликовано 08.05.2015 14:25
Компания назвала AppleBot собственным веб-краулером, который собирает информацию для Siri и Spotlight. Робот поддерживает указания из robots.txt, причем, если не находит в нём строчки про себя, следует правилам, указанным для Google. Исходя из этого, можно заблокировать обоих краулеров, запретив одному лишь GoogleBot.
Если AppleBot ведет себя странно или не "слушается" указаний robots.txt, следует известить об этом специалистов при помощи email на Apple-NOC@apple.com.
Последние месяцы Apple активно собирает специалистов по поисковым системам. Ожидается, что новый игрок рынка поиска будет основан на Spotlight.

Сообщение форума