robots.txt

(Ответов: 9, Просмотров: 545)
  1. Banned
    • Регистрация: 12.03.2013
    • Сообщений: 132
    • Репутация: 11
    • Webmoney BL: ?
    Прошу проверить, правильно ли настроил:
    User-agent: *
    Disallow: /engine/go.php
    Disallow: /engine/download.php
    Disallow: /user/
    Disallow: /newposts/
    Disallow: /statistics.html
    Disallow: /*subaction=userinfo
    Disallow: /*subaction=newposts
    Disallow: /*do=lastcomments
    Disallow: /*do=feedback
    Disallow: /*do=register
    Disallow: /*do=lostpassword
    Disallow: /*do=addnews
    Disallow: /*do=stats
    Disallow: /*do=pm

    Заранее благодарен)
    • 0
  2. Студент Аватар для DeepAdvert
    • Регистрация: 02.04.2013
    • Сообщений: 57
    • Репутация: 21
    Эммм... А где настроил то?
    • 0
  3. Опытный Аватар для ceff
    • Регистрация: 18.09.2012
    • Сообщений: 411
    • Репутация: 114
    Leonid1996, я так понял это роботс для дле?
    • 0
  4. Опытный Аватар для MacDrive
    • Регистрация: 13.11.2010
    • Сообщений: 302
    • Репутация: 57
    Вот, как-то так...

    Спойлер


    User-agent: *
    Allow: /uploads/posts/
    Disallow: /engine/go.php
    Disallow: /user/
    Disallow: /newposts/
    Disallow: /statistics.html
    Disallow: /*subaction=userinfo
    Disallow: /*subaction=newposts
    Disallow: /*do=lastcomments
    Disallow: /*do=feedback
    Disallow: /*do=register
    Disallow: /*do=lostpassword
    Disallow: /*do=addnews
    Disallow: /*do=stats
    Disallow: /*do=pm
    Disallow: /favorites/
    Disallow: /cache/
    Disallow: /cgi-bin/
    Disallow: /page/
    Disallow: */page/*
    Disallow: /tags/
    Disallow: /2012/
    Disallow: /2013/
    Disallow: /engine/
    Disallow: /engine/download.php
    Disallow: /language/
    Disallow: /templates/
    Disallow: /uploads/
    Disallow: /backup/
    Disallow: /lastnews/
    Disallow: /catalog/
    Disallow: /autobackup.php
    Disallow: /admin.php
    Disallow: /banners/
    Disallow: /*action=mobile$
    Disallow: /do=*
    Disallow: /*do=*
    Disallow: /?*
    Sitemap: http://site.ru/sitemap.xml

    User-agent: Yandex
    Allow: /uploads/posts/
    Disallow: /engine/go.php
    Disallow: /user/
    Disallow: /newposts/
    Disallow: /statistics.html
    Disallow: /*subaction=userinfo
    Disallow: /*subaction=newposts
    Disallow: /*do=lastcomments
    Disallow: /*do=feedback
    Disallow: /*do=register
    Disallow: /*do=lostpassword
    Disallow: /*do=addnews
    Disallow: /*do=stats
    Disallow: /*do=pm
    Disallow: /favorites/
    Disallow: /cache/
    Disallow: /cgi-bin/
    Disallow: /page/
    Disallow: */page/*
    Disallow: /tags/
    Disallow: /2012/
    Disallow: /2013/
    Disallow: /engine/
    Disallow: /engine/download.php
    Disallow: /language/
    Disallow: /templates/
    Disallow: /uploads/
    Disallow: /backup/
    Disallow: /lastnews/
    Disallow: /catalog/
    Disallow: /autobackup.php
    Disallow: /admin.php
    Disallow: /banners/
    Disallow: /*action=mobile$
    Disallow: /do=*
    Disallow: /*do=*
    Disallow: /?*
    Sitemap: http://site.ru/sitemap.xml
    Host: site.ru
    [свернуть]


    Открыты только новости и категории. И вот ещё почитайте на досуге _http://alaev.info/blog/post/3900
    Последний раз редактировалось MacDrive; 23.04.2013 в 19:16.
    • 0
  5. Новичок
    • Регистрация: 15.04.2013
    • Сообщений: 3
    • Репутация: 0
    Прошу проверить, правильно ли настроил:
    а как мы определим какие разделы Вы планируете закрывать в Disallow?)
    навскидку - правильно. для яндекса можно еще host прописать
    • 0
  6. Banned
    • Регистрация: 12.03.2013
    • Сообщений: 132
    • Репутация: 11
    • Webmoney BL: ?
    MacDrive,да , решил на DLE еще сайтик сделать, точно так?
    • 0
  7. Опытный Аватар для MacDrive
    • Регистрация: 13.11.2010
    • Сообщений: 302
    • Репутация: 57
    Leonid1996, нет, не точно) Зачем переспрашиваете?) Я же не просто так это сюда выложил.
    • 0
  8. Banned
    • Регистрация: 12.03.2013
    • Сообщений: 132
    • Репутация: 11
    • Webmoney BL: ?
    MacDrive, просто лучшу же не по всем записям он переходил как по мне, сли вдруг не совсем уникальная и я светить не хочу ее)
    просто дописать ее в списке как запрещеная?
    • 0
  9. Опытный Аватар для Textoslov
    • Регистрация: 28.09.2011
    • Сообщений: 269
    • Репутация: 60
    MacDrive, зачем так геморничать с двумя блоками для каждой ПС? Проще написать один для всех (*). Что какая-нить из ПС не знает - пропустит, что знает - возьмет.
    • 0
  10. Гуру Аватар для MacLeo
    • Регистрация: 01.06.2010
    • Сообщений: 1,617
    • Записей в дневнике: 1
    • Репутация: 586
    Пользуемся поиском по форуму перед созданием тем http://webmasters.ru/forum/f10/tonko...60ya%5D-31599/
    • 0

Тэги топика:

Похожие темы

Темы Раздел Ответов Последний пост
АГС или robots.txt
Вопросы от новичков 11 04.12.2012 20:37
Все о robots.txt
Общие вопросы поисковой оптимизации 19 03.07.2012 12:46
robots.txt
Вопросы от новичков 3 18.03.2011 15:03
robots.txt
Прочее 0 18.03.2011 10:44
dle robots.txt
Web программирование 3 08.01.2011 22:16

У кого попросить инвайт?

Вы можете попросить инвайт у любого модератора:

Информеры