Правильно ли я создал Robots.txt

(Ответов: 13, Просмотров: 1066)
Страница 1 из 2 12 Последняя
  1. Banned
    • Регистрация: 12.10.2011
    • Сообщений: 693
    • Записей в дневнике: 2
    • Репутация: 149
    • Webmoney BL: ?
    Здравствуйте форумчане!!!
    Правильно ли я создал Robots.txt на DLE?
    Код:
    User-agent: Yandex
    Disallow: /user/
    Disallow: /reputation/
    Disallow: /engine/
    Disallow: /go.php
    Disallow: /cgi-bin/
    Disallow: /language/
    Disallow: /templates/
    Disallow: /newposts/
    Disallow: /favorites/
    Disallow: /cat/
    Disallow: /statistics.html
    Disallow: /*subaction=userinfo
    Disallow: /*subaction=newposts
    Disallow: /*do=lastcomments
    Disallow: /*do=feedback
    Disallow: /*do=register
    Disallow: /*do=lostpassword
    Disallow: /*do=addnews
    Disallow: /*do=stats
    Disallow: /*do=pm
    Disallow: /*do=search
    Disallow: /*page/*
    Disallow: /*2009/*
    Disallow: /*2010/*
    Disallow: /*2011/*
    Disallow: /*2012/*
    Host: site.info
    Sitemap: http://site.info/sitemap.xml
    
    User-Agent: *
    Disallow: /user/
    Disallow: /reputation/
    Disallow: /engine/
    Disallow: /go.php
    Disallow: /cgi-bin/
    Disallow: /language/
    Disallow: /templates/
    Disallow: /newposts/
    Disallow: /favorites/
    Disallow: /cat/
    Disallow: /statistics.html
    Disallow: /*subaction=userinfo
    Disallow: /*subaction=newposts
    Disallow: /*do=lastcomments
    Disallow: /*do=feedback
    Disallow: /*do=register
    Disallow: /*do=lostpassword
    Disallow: /*do=addnews
    Disallow: /*do=stats
    Disallow: /*do=pm
    Disallow: /*do=search
    Disallow: /*page/*
    Disallow: /*2009/*
    Disallow: /*2010/*
    Disallow: /*2011/*
    Disallow: /*2012/*
    Sitemap: http://site.info/sitemap.xml
    Я вот просто юзал панель вебмастера гугл и заметил такое:
    Если ставить блокировку всех страниц то тип будет Disallow: / а если разрешить все для индексации то Allow: /
    А у меня тип как видите стоит Disallow: / (и я вот думаю может по этому нет страниц в Google,хотя яшей сайт индексируется норм)
    • 0
  2. Гуру Аватар для viotur
    • Регистрация: 14.03.2010
    • Сообщений: 3,170
    • Репутация: 2818
    Green-Seo, нет смысла дублировать User-agent: Yandex и User-Agent: * если они одинаковы. и Sitemap: http://site.info/sitemap.xml достаточно один раз указать в конце. Насколько я вижу, от Гугла ничего не закрыто)))


    И /*2009/* зачем вам звездочки использовать?
    • 1

    Спасибо сказали:

    Green-Seo(05.05.2012),
  3. Banned
    • Регистрация: 12.10.2011
    • Сообщений: 693
    • Записей в дневнике: 2
    • Репутация: 149
    • Webmoney BL: ?
    Цитата Сообщение от viotur Посмотреть сообщение
    И /*2009/* зачем вам звездочки использовать?
    Сам не знаю:)
    • 0
  4. Гуру Аватар для viotur
    • Регистрация: 14.03.2010
    • Сообщений: 3,170
    • Репутация: 2818
    Как я понимаю, это разделы архивов. Тогда

    Disallow: /2011/ чтобы закрыть урлы статей в архиве. Но смысл в этом какой? В индексе будут только последние материалы.
    • 0
  5. Banned
    • Регистрация: 12.10.2011
    • Сообщений: 693
    • Записей в дневнике: 2
    • Репутация: 149
    • Webmoney BL: ?
    Так будет норм?
    Код:
    User-agent: 
    Disallow: /user/
    Disallow: /reputation/
    Disallow: /engine/
    Disallow: /go.php
    Disallow: /cgi-bin/
    Disallow: /language/
    Disallow: /templates/
    Disallow: /favorites/
    Disallow: /cat/
    Disallow: /statistics.html
    Disallow: /*subaction=userinfo
    Disallow: /*subaction=newposts
    Disallow: /*do=lastcomments
    Disallow: /*do=feedback
    Disallow: /*do=register
    Disallow: /*do=lostpassword
    Disallow: /*do=addnews
    Disallow: /*do=stats
    Disallow: /*do=pm
    Disallow: /*do=search
    Disallow: /*page/*
    Host:  site.info
    Sitemap:  http://site.info/sitemap.xml
    • 0
  6. Гуру Аватар для viotur
    • Регистрация: 14.03.2010
    • Сообщений: 3,170
    • Репутация: 2818
    Лучше это закройте - /tags/

    Сейчас еще посмотрю у вас на сайте, я с ДЛЕ давно не работаю..
    • 0
  7. Banned
    • Регистрация: 12.10.2011
    • Сообщений: 693
    • Записей в дневнике: 2
    • Репутация: 149
    • Webmoney BL: ?
    Цитата Сообщение от viotur Посмотреть сообщение
    Лучше это закройте - /tags/
    Почему???я на оборот открыл,так теги индексируются,и переходы даже есть...
    • 0
  8. Гуру Аватар для viotur
    • Регистрация: 14.03.2010
    • Сообщений: 3,170
    • Репутация: 2818
    Disallow: /*page/* Это что?Я не вижу у вас такого раздела...
    • 0
  9. Banned
    • Регистрация: 12.10.2011
    • Сообщений: 693
    • Записей в дневнике: 2
    • Репутация: 149
    • Webmoney BL: ?
    Цитата Сообщение от viotur Посмотреть сообщение
    Disallow: /*page/* Это что?Я не вижу у вас такого раздела..
    Убрал...
    • 0
  10. Гуру Аватар для viotur
    • Регистрация: 14.03.2010
    • Сообщений: 3,170
    • Репутация: 2818
    Green-Seo, страниц на сайте мало, получаются по тегам почти дубли:

    http://o-news.info/tags/%D2%F3%F0%E8%E7%EC/

    http://o-news.info/turizm/
    • 0
Страница 1 из 2 12 Последняя

Похожие темы

Темы Раздел Ответов Последний пост
robots.txt
Web программирование 4 10.08.2011 14:47
Robots.txt
Обучающие статьи 12 30.06.2011 10:29
robots.txt
Вопросы от новичков 3 18.03.2011 15:03
Создал каталог ссылок для обмена
Реклама партнерских программ 2 20.06.2010 21:25

У кого попросить инвайт?

Вы можете попросить инвайт у любого модератора:

Информеры