Прошу проверить, правильно ли настроил:
User-agent: *
Disallow: /engine/go.php
Disallow: /engine/download.php
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Заранее благодарен)
- 23.04.2013 18:47
- 23.04.2013 18:59
Эммм... А где настроил то?
- 23.04.2013 19:09
Leonid1996, я так понял это роботс для дле?
- 23.04.2013 19:13
Вот, как-то так...
Спойлер
User-agent: *
Allow: /uploads/posts/
Disallow: /engine/go.php
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /favorites/
Disallow: /cache/
Disallow: /cgi-bin/
Disallow: /page/
Disallow: */page/*
Disallow: /tags/
Disallow: /2012/
Disallow: /2013/
Disallow: /engine/
Disallow: /engine/download.php
Disallow: /language/
Disallow: /templates/
Disallow: /uploads/
Disallow: /backup/
Disallow: /lastnews/
Disallow: /catalog/
Disallow: /autobackup.php
Disallow: /admin.php
Disallow: /banners/
Disallow: /*action=mobile$
Disallow: /do=*
Disallow: /*do=*
Disallow: /?*
Sitemap: http://site.ru/sitemap.xml
User-agent: Yandex
Allow: /uploads/posts/
Disallow: /engine/go.php
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /favorites/
Disallow: /cache/
Disallow: /cgi-bin/
Disallow: /page/
Disallow: */page/*
Disallow: /tags/
Disallow: /2012/
Disallow: /2013/
Disallow: /engine/
Disallow: /engine/download.php
Disallow: /language/
Disallow: /templates/
Disallow: /uploads/
Disallow: /backup/
Disallow: /lastnews/
Disallow: /catalog/
Disallow: /autobackup.php
Disallow: /admin.php
Disallow: /banners/
Disallow: /*action=mobile$
Disallow: /do=*
Disallow: /*do=*
Disallow: /?*
Sitemap: http://site.ru/sitemap.xml
Host: site.ru[свернуть]
Открыты только новости и категории. И вот ещё почитайте на досуге _http://alaev.info/blog/post/3900Последний раз редактировалось MacDrive; 23.04.2013 в 19:16.
- 23.04.2013 19:15
- Регистрация: 15.04.2013
- Сообщений: 3
- Репутация: 0
а как мы определим какие разделы Вы планируете закрывать в Disallow?)Прошу проверить, правильно ли настроил:
навскидку - правильно. для яндекса можно еще host прописать - 23.04.2013 19:15
MacDrive,да , решил на DLE еще сайтик сделать, точно так?
- 23.04.2013 19:18
Leonid1996, нет, не точно) Зачем переспрашиваете?) Я же не просто так это сюда выложил.
- 23.04.2013 19:21
MacDrive, просто лучшу же не по всем записям он переходил как по мне, сли вдруг не совсем уникальная и я светить не хочу ее)
просто дописать ее в списке как запрещеная? - 23.04.2013 19:26
MacDrive, зачем так геморничать с двумя блоками для каждой ПС? Проще написать один для всех (*). Что какая-нить из ПС не знает - пропустит, что знает - возьмет.
- 23.04.2013 20:23
Пользуемся поиском по форуму перед созданием тем http://webmasters.ru/forum/f10/tonko...60ya%5D-31599/
Похожие темы
Темы | Раздел | Ответов | Последний пост |
---|---|---|---|
АГС или robots.txt | Вопросы от новичков | 11 | 04.12.2012 20:37 |
Все о robots.txt | Общие вопросы поисковой оптимизации | 19 | 03.07.2012 12:46 |
robots.txt | Вопросы от новичков | 3 | 18.03.2011 15:03 |
robots.txt | Прочее | 0 | 18.03.2011 10:44 |
dle robots.txt | Web программирование | 3 | 08.01.2011 22:16 |