robots.txt убивает индексацию форума

(Ответов: 12, Просмотров: 1004)
Страница 1 из 2 12 Последняя
  1. Дипломник Аватар для Pastel
    • Регистрация: 16.11.2012
    • Сообщений: 129
    • Репутация: 23
    • Webmoney BL: ?
    Просмотрела и прочитала очень много статей и тем на форумах и ненашла нужной информации, так как я больше читатель - то поймите пишу только в крайнем случае!

    Ситуация для меня сложная и неоднозначная:
    Уже около двух месяцев я борюсь с яндексом -
    Дата последнего посещения сайта роботом 7.02.2013
    Загружено роботом 1864
    Исключено роботом 1535
    Страниц в поиске 297
    Документ запрещен в файле robots.txt 1174
    в запрещенных более 50-ти страниц с урлами поэтому нестала выкладывать-но если будет нужно покажу все.
    ---------------
    тогда как у гугла в поиске в 10 раз больше страниц около 4000 и это меня поражает, я готова предоставить любые данные по форуму _bastion-fin.org просто уже нет сил помогите настроить роботс для яндекса персонально для форума. готова оплатить услуги составления но в случае двух безрезультатных апов затребую манибек
    ---------------
    Я ноняла что скорее всего он просто у меня не правельный

    роботс

    User-agent: *
    Disallow: /admincp/
    Disallow: /album.php
    Disallow: /archive/
    Disallow: /calendar.php
    Disallow: /clientscript/
    Disallow: /converse.php
    Disallow: /cpstyles/
    Disallow: /css.php
    Disallow: /customavatars/
    Disallow: /customgroupicons/
    Disallow: /customprofilepics/
    Disallow: /external.php
    Disallow: /faq.php
    Disallow: /group.php
    Disallow: /includes/
    Disallow: /install/
    Disallow: /js/
    Disallow: /list.php
    Disallow: /list/
    Disallow: /login.php
    Disallow: /memberlist.php
    Disallow: /members/
    Disallow: /misc.php
    Disallow: /modcp/
    Disallow: /newreply.php
    Disallow: /newthread.php
    Disallow: /online.php
    Disallow: /packages/
    Disallow: /printthread.php
    Disallow: /private.php
    Disallow: /profile.php
    Disallow: /register.php
    Disallow: /search.php
    Disallow: /sendmessage.php
    Disallow: /showgroups.php
    Disallow: /showpost.php
    Disallow: /signaturepics/
    Disallow: /subscription.php
    Disallow: /tags.php
    Disallow: /usercp.php
    Disallow: /announcement.php
    Disallow: /member.php
    Disallow: /vb/

    Host: bastion-fin.org

    User-agent: Googlebot
    Disallow: /admincp/
    Disallow: /album.php
    Disallow: /archive/
    Disallow: /calendar.php
    Disallow: /clientscript/
    Disallow: /converse.php
    Disallow: /cpstyles/
    Disallow: /css.php
    Disallow: /customavatars/
    Disallow: /customgroupicons/
    Disallow: /customprofilepics/
    Disallow: /external.php
    Disallow: /faq.php
    Disallow: /group.php
    Disallow: /includes/
    Disallow: /install/
    Disallow: /js/
    Disallow: /list.php
    Disallow: /list/
    Disallow: /login.php
    Disallow: /memberlist.php
    Disallow: /members/
    Disallow: /misc.php
    Disallow: /modcp/
    Disallow: /newreply.php
    Disallow: /newthread.php
    Disallow: /online.php
    Disallow: /packages/
    Disallow: /printthread.php
    Disallow: /private.php
    Disallow: /profile.php
    Disallow: /register.php
    Disallow: /search.php
    Disallow: /sendmessage.php
    Disallow: /showgroups.php
    Disallow: /showpost.php
    Disallow: /signaturepics/
    Disallow: /subscription.php
    Disallow: /tags.php
    Disallow: /usercp.php
    Disallow: /vb/
    Disallow: /*do=
    Disallow: /*blogtype=
    Disallow: /*sort=
    Disallow: /*order=
    Disallow: /*mode=
    Disallow: /*goto=
    Disallow: /*m=
    Disallow: /*y=
    Disallow: /*prefixid=
    Disallow: /*p=
    Disallow: /*a=rate
    Disallow: /*viewfull=
    Disallow: /announcement.php
    Disallow: /member.php

    User-agent: Yandex
    Disallow: /admincp/
    Disallow: /album.php
    Disallow: /archive/
    Disallow: /calendar.php
    Disallow: /clientscript/
    Disallow: /converse.php
    Disallow: /cpstyles/
    Disallow: /css.php
    Disallow: /customavatars/
    Disallow: /customgroupicons/
    Disallow: /customprofilepics/
    Disallow: /external.php
    Disallow: /faq.php
    Disallow: /group.php
    Disallow: /includes/
    Disallow: /install/
    Disallow: /js/
    Disallow: /list.php
    Disallow: /list/
    Disallow: /login.php
    Disallow: /memberlist.php
    Disallow: /members/
    Disallow: /misc.php
    Disallow: /modcp/
    Disallow: /newreply.php
    Disallow: /newthread.php
    Disallow: /online.php
    Disallow: /packages/
    Disallow: /printthread.php
    Disallow: /private.php
    Disallow: /profile.php
    Disallow: /register.php
    Disallow: /search.php
    Disallow: /sendmessage.php
    Disallow: /showgroups.php
    Disallow: /showpost.php
    Disallow: /signaturepics/
    Disallow: /subscription.php
    Disallow: /tags.php
    Disallow: /usercp.php
    Disallow: /announcement.php
    Disallow: /member.php
    Disallow: /vb/
    Clean-param: s&do&blogtype&sort&order&mode&goto&m&y&markreadhash&prefixid&p&viewfull&p
    Crawl-delay: 5
    [свернуть]
    Последний раз редактировалось Pastel; 09.02.2013 в 10:26.
    • 0
  2. You shall not pass. Ага. Аватар для Гендальф Серый
    • Регистрация: 02.02.2013
    • Сообщений: 1,184
    • Репутация: 1512
    • Webmoney BL: ?
    Первое, что приходит в голову - проверь на записи noindex.
    А так, если вечером будет ещё актуально - сяду посмотрю, мб смогу помочь.
    з.ы. у самого такая беда - индексация в гугле в 2 раза выше, чем в яше.
    • 1

    Спасибо сказали:

    Pastel(09.02.2013),
  3. Дипломник Аватар для Pastel
    • Регистрация: 16.11.2012
    • Сообщений: 129
    • Репутация: 23
    • Webmoney BL: ?
    Документ содержит мета-тег noindex 298
    это не страшно и скрывает все верно, а вот с роботс так как :
    Документ запрещен в файле robots.txt 1174
    вот моя проблема уже более 2х месяцев
    хотела сделать все сама, учила читала-но результат мягко говоря никакой
    • 0
  4. Гуру Аватар для ohmygod
    • Регистрация: 30.04.2011
    • Сообщений: 1,064
    • Репутация: 268
    • Webmoney BL: ?
    Цитата Сообщение от Pastel Посмотреть сообщение
    в запрещенных более 50-ти страниц с урлами поэтому нестала выкладывать-но если будет нужно покажу все.
    Хотя бы несколько примеров.
    • 2

    Спасибо сказали:

    Pastel(09.02.2013), Гендальф Серый(09.02.2013),
  5. Дипломник Аватар для Pastel
    • Регистрация: 16.11.2012
    • Сообщений: 129
    • Репутация: 23
    • Webmoney BL: ?
    Сделаю больше простите что сразу не показала урлы, делаю выборочно с страниц:

    Развернуть текст

    /announcement.php?f=104
    3.02.2013 25.12.2012
    /announcement.php?f=21
    3.02.2013 25.12.2012
    /announcement.php?f=113
    3.02.2013 25.12.2012
    /announcement.php?f=96
    3.02.2013 25.12.2012
    /announcement.php?f=43
    3.02.2013 5.11.2012
    /announcement.php?f=126
    3.02.2013 -
    /announcement.php?f=55
    3.02.2013 13.11.2012
    /announcement.php?f=58
    3.02.2013 12.11.2012
    /announcement.php?f=59
    3.02.2013 12.11.2012
    /announcement.php?f=80
    3.02.2013 12.11.2012
    /attachment.php?attachmentid=137&d=1351873319
    2.12.2012 7.11.2012
    /attachment.php?attachmentid=138
    2.12.2012 9.11.2012
    /attachment.php?attachmentid=138&d=1352041174
    2.12.2012 7.11.2012
    /attachment.php?attachmentid=139
    2.12.2012 9.11.2012
    /attachment.php?attachmentid=139&d=1352041176
    2.12.2012 9.11.2012
    /member.php?u=114&
    3.02.2013 16.12.2012
    /member.php?u=115&
    3.02.2013 25.12.2012
    /member.php?u=116&
    3.02.2013 25.12.2012
    /member.php?u=117&
    3.02.2013 25.12.2012
    /member.php?u=12&
    3.02.2013 12.11.2012
    /misc.php?do=whoposted&t=105
    3.02.2013 15.10.2012
    /misc.php?do=whoposted&t=106
    3.02.2013 19.10.2012
    /misc.php?do=whoposted&t=108
    3.02.2013 15.10.2012
    /search.php?search_type=1&searchthreadid=279&contenttype=vBForum_Post
    3.02.2013 -
    /search.php?search_type=1&searchthreadid=288&contenttype=vBForum_Post
    3.02.2013 -
    /search.php?search_type=1&searchthreadid=85&contenttype=vBForum_Post
    3.02.2013 27.10.2012
    /search.php?search_type=1&searchthreadid=387&contenttype=vBForum_Post
    3.02.2013 -
    /search.php?search_type=1&searchthreadid=413&contenttype=vBForum_Post
    3.02.2013 -
    /tags.php?tag=какой+лот
    3.02.2013 7.11.2012
    /tags.php?tag=от+форума
    3.02.2013 30.11.2012
    /tags.php?tag=советник+автопрофит
    3.02.2013 7.11.2012
    /tags.php?tag=финансовый+департаамент
    3.02.2013 7.11.2012
    /tags.php?tag=azart
    3.02.2013 7.11.2012
    /tags.php?tag=azcasgame
    3.02.2013 7.11.2012
    [свернуть]
    • 0
  6. You shall not pass. Ага. Аватар для Гендальф Серый
    • Регистрация: 02.02.2013
    • Сообщений: 1,184
    • Репутация: 1512
    • Webmoney BL: ?
    Так у вас же в роботе прописано Disallow: /announcement.php . ПС и не будет индексировать.
    Так же и с остальными.
    • 1

    Спасибо сказали:

    Pastel(09.02.2013),
  7. Опытный Аватар для altry1st
    • Регистрация: 20.04.2012
    • Сообщений: 350
    • Репутация: 72
    Ну в гугл обычно всегда больше страниц, чем в яндексе. Возможно это дубли, закрытые в роботсе, а в гугле они где-нибудь в соплях болтаются.

    з.ы. пока писал, Генальф Серый ответил уже верно...
    отличный хостинг для белых проектов: beget
    • 1

    Спасибо сказали:

    Pastel(09.02.2013),
  8. Дипломник Аватар для Pastel
    • Регистрация: 16.11.2012
    • Сообщений: 129
    • Репутация: 23
    • Webmoney BL: ?
    Генальф Серый, тойсть этим запретом я закрыла от индексации все страницы с пхп, если сейчас убрать откроется около 400 страниц(смотрю из вебмастера), но чтото мне кажется это не решит всю проблему, мне важно не навредить
    ------------
    Цитата Сообщение от altry1st Посмотреть сообщение
    Ну в гугл обычно всегда больше страниц, чем в яндексе.
    согласна но не в такой разнице- а разница в более чем 10 раз
    Последний раз редактировалось Pastel; 09.02.2013 в 10:50.
    • 0
  9. You shall not pass. Ага. Аватар для Гендальф Серый
    • Регистрация: 02.02.2013
    • Сообщений: 1,184
    • Репутация: 1512
    • Webmoney BL: ?
    Pastel, свойство disallow закрывает для индексации указанную страницу/раздел. Ваши страницы генерируются в php файле. И любая страница, которая будет иметь вид [name_of_page].php[адрес и свойста] будет запрещена для индексации, если в роботе прописано disaalow/[name_of_page].php
    Переводя на человеческий язык - снимите нафиг disallow со всех страниц. В крайнем случае - оставьте только на админку и будет вам счастье.

    И будь у меня АГС на всех проектах, если я не прав.
    Последний раз редактировалось Гендальф Серый; 09.02.2013 в 10:56.
    • 2

    Спасибо сказали:

    Pastel(09.02.2013), zelez(09.02.2013),
  10. Дипломник Аватар для Pastel
    • Регистрация: 16.11.2012
    • Сообщений: 129
    • Репутация: 23
    • Webmoney BL: ?
    Генальф СерыйСтоп _http://bastion-fin.org/announcement.php?f=98 закрывает дубли контента в данном случае это обьявления форума они же и правила. Но ведь бездумно открыть все мне непросто можно ведь впоймать агс
    Последний раз редактировалось Pastel; 09.02.2013 в 11:10.
    • 0
Страница 1 из 2 12 Последняя

Похожие темы

Темы Раздел Ответов Последний пост
Вопрос про индексацию
Общие вопросы поисковой оптимизации 17 11.11.2012 04:06
Как ускорить индексацию сайта?
Дайджест блогосферы 10 22.08.2012 13:50
Вопрос про индексацию
Поисковые системы 8 17.03.2012 18:00
LiveInternet - убивает инет?
Прочее 22 28.01.2012 13:38
Запретить индексацию пользователей
Web программирование 4 07.04.2011 01:13

У кого попросить инвайт?

Вы можете попросить инвайт у любого модератора:

Информеры