161208
| | | | |

                           

ИНТЕРНЕТ / INTERNET

Поиск по сайту



Как составить файл robots.txt

Вернуться к списку статей

AAA + -




 

Статья перепечатана из MarketPosition (tm) Monthly October 2000 Issue
Некоторые из Вас спрашивают: ” Как мне запретить ‘поисковику №1' индексировать страницы, разработанные для ‘поисковика №2'.' Ответ состоит в использовании robots.txt. Имеются также другие причины для предохранения поисковых систем от индексации некоторых или всех страниц на сайте. Поэтому я написал эту детальную статью, чтобы показать Вам, как сделать это, и избежать общих ошибок.

Если Вы создаете различные версии по существу одного и того же дорвея или страницы и каждый механизм поиска индексирует каждую копию страницы, то Вы, в теории, занимаетесь спамом. AltaVista в особенности, как известно, ненавидит дубликат или похожее содержание на страницах. Поэтому, если Вы создаете страницы, которые являются слишком похожими, Вы подвергаетесь риску получить красную карточку от поисковых машин. Практически, большинство людей не беспокоятся относительно наличия слишком большого количества дублирующих страниц, проиндексированных одной поисковой системой, потому что они не создают огромные числа похожих страниц. Если ваши страницы изменяются достаточно в размере и числе слов, то Вы не должны волноваться.

 

Если Вы сосредаточиваетесь прежде всего на оптимизации существующих страниц на вашем сайте, которые имеют уникальноесодержание а не на создании большого количества новых страниц, которые являются похожими, вы также избежите любых потенциальных проблем. Другие люди просто сабмитят страницы, разработанные для определенной поисковый машины только поисковику, для которого они созданы. Это самый простой метод избежать обвинения в спаме поисковых систем. Это может работать. Однако, любой другой робот любой другой поисковой системы также может найти такую страницу, даже если ее ему не сабмитили.

Если вы хотите создать много дорвеев, а они неизбежно будут иметь похожее содержание, оптимизированных под разные поисковые системы, вам необходимо использовать файл robots.txt.

Этот файл может сообщить роботу поисковой системы, который индексирует страницы, что ему нельзя индексировать определенные страницы. Таким образом Вы можете формировать страницы для поисковика А и сообщать роботу поисковика Б, чтобы он их игнорировал. Роботы обычно следуют таким указаниям, потому что это предохраняет их от индексации страниц, которые не обращаются к ним. Кроме того, поисковые системы имели проблемы с некоторыми компаниями, и дело даже доходило до суда - относительно индексации защищенных авторским правом материалов без разрешения обладателя авторского права. Наиболее важный параметр поисковых систем для способности индексировать защищенный авторским правом материал без разрешения - то, что владелец сайта всегда имеет возможность исключить их индексацию, создавая robots.txt. Поэтому, маловероятно, чтобы поисковые системы преднамеренно игнорировали бы robots.txt, или что они могли ввязаться в ненужные юридические проблемы. Они могли бы, теоретически говоря, проиндексировать страница и затем, после проверки robots.txt выкинуть страницу из базы. Это может объяснять отчетную документацию, я получал сообщения от некоторых людей, которые утверждают, что паук игнорировал их файл robots.txt, о чем можно судить по логам сервера. Другое объяснение - то, что Webmaster использовал неправильный синтаксис при создании robots.txt. Поэтому дважды проверьте все!

Я буду пробовать подчеркивать распространенные ошибки в этой статье. Пожалуйста, не пугайтесь. Это не так трудно, как кажется. Имеется также метод, с помощью которого вы можете все сделать сразу и больше никогда не трогать. Я поясню этот метод в конце этой статьи.

Чтобы создавать robots.txt, откройте Блокнот или любой другой редактора, который может сохранять простой ASCII .txt файл. Используйте следующий синтаксис, чтобы исключить имя файла для определенной поисковой машины:

User-agent: {SpiderNameHere}
Disallow: {FilenameHere}

Например, чтобы сообщить пауку Excite, который называется ArchitextSpider, не индексировать файлы с названиями orderform.html, product1.html, и product2.html, нужно записать в robots.txt следующее:

User-agent: ArchitextSpider
Disallow: /orderform.html
Disallow: /product1.html
Disallow: /product2.html

Согласно спецификации на robots.txt, текст в нем чувствителен к регистру, так что Вы должны записать User-agent, а не User-Agent. Вызывает ли это проблему практически, я не могу говорить наверняка. Чтобы быть уверенным, соблюдайте требования спецификаций. Кроме того, убедитесь, что Вы включаете косую черту перед именем файла, если напильник находится в корневом каталоге. Строка User-agent - идентификатор робота поисковой системы, которому вы запрещаете индексировать страницу. Это подобно “кодированному названию” для паука поисковой машины, которыйиндексирует страницы в Интернете. Имя робота может быть похоже на название поисковика, или полностью отличаться. Я перечислю официальные названия User-agent осноных поисковых машин позже в этой статье. Как только Вы создали ваш robots.txt, этот текстовый файл нужно загрузить в корневому каталогу вашего сайта. Хотя robots.txt не является обязательным, большинство главных механизмов поиска выполнит его. Если Вы не имеете своего домена, а используете субдомен или директорию внутри домена, то ваш robots.txt может быть не прочитан, так как по стандарту робот проверяет наличие его только в корневом каталоге домена. Это еще одна причина вложить капитал в ваше собственное имя домена!

Вы можете добавлять дополнительные строки, чтобы исключить страницы из других поисковиков, определяя параметр User-Agent снова в том же самом файле, ставя за ним строки Disallow. Каждое вхождениеDisallow будет применено к последнему User-agent, который был определен. Если Вы хотите исключить целыйкаталог, используйте синтаксис:

User-agent: ArchitextSpider
Disallow: /mydirectory/

Общая ошибка состоит в том, чтобы поставить * после директивного названия, чтобы указать, что Вы хотите исключить все файлы в этом каталоге. Однако, правильно будет НЕ включать никаких звездочек и символов умолчания в поле Disallow. Согласно технических требований, подразумевается, что запись выше отвергнет все файлы в “mydirectory”. Чтобы закрыть от индексирования файл, названный product.htm в “mydirectory” подкаталоге, сделайте так:

User-agent: ArchitextSpider
Disallow: /mydirectory/product.htm

Вы можете исключать страницы для ВСЕХ пауков следующей записью:

User-agent: *

В строк User-agent Вы МОЖЕТЕ использовать звездочку как групповой символ. Чтобы запретить индексацию всех страниц на сайте, запишите

Disallow: /

Вы используете только косую черту, чтобы указать, что Вы хотите весь сайт. Не используйте звездочку здесь. Важно, чтобы Вы не допускали ошибок. Если Вы сделаете ошибки, это не может работать, и Вы не будете знать это, покане будет слишком поздно! Возможно, что некоторые поисковые системы могут обрабатывать общие вариации синтаксиса без проблем. Однако, это не гарантирует, что они будут все допускать расхождения в синтаксисе. Поэтому не устраивайте себе проблем. Если в некоторой точке Вы находите, что ваш синтаксис был неправилен, исправьте проблему, и затем сабмитьте повторно. Поисковая машина повторно проиндексирует ваш сайт и выполнит все указания в robots.txt. Если Вы желаете включить комментарий в robots.txt , Вы должны перед ним поставить поставить # наподобие следующего: # Here are my comments about this entry. Каждый набор Disallow должен быть отделен пустой строкой. Например, для исключения различных страниц из различных поисковых систем можно написать следующее:

User-agent: ArchitextSpider
Disallow: /mydirectory/product.htm
Disallow: /mydirectory/product2.htm

User-agent: Infoseek Disallow: /mydirectory/product3.htm Disallow: /mydirectory/product4.htm

Пустая строка между двумя группами записей необходима. Если, с другой стороны, Вы хотели бы исключить один и тот же набор файлов для более чем одного паука, можно написать следующее:

User-agent: ArchitextSpider
User-agent: Infoseek
Disallow: /mydirectory/product.htm
Disallow: /mydirectory/product2.htm

Примечание относительно подкаталогов: Некоторый Webmasters любят организовывать дорвеи в различные подкаталоги, согласно поисковой системы для которой они оптимизированы. Однако, некоторые поисковые машины подозреваются в придании более низкого ранга страницам, находящимся в подкаталогах по сравнению с корневым каталогом сайта. Если они чувствуют, что те страницы принадлежат сайту, который разделяет домен с основным сайтом, они могут считать такие страницы, как являющиеся потенциально худшего качества. Я спрашивал у трех консультантов по поисковым машинам их мнение относительно подкаталогов. Они сошлись на том, что страницы в корневом каталоге ранжируются, вероятно, лучше, но они не замечали доказательств, что это вызвало проблемы. Если Вы все еще беспокоитесь относительно хранения страниц в подкаталогах и желали использовать их, Вы можете попросить хостинговую компанию предоставить вам субдомен, ведущий на подкаталог и использовать субдомен для сабмита. Таким образом, угроза со стороны поисковиков уменьшается, так как они не будут видеть подкаталог в URL. Кроме того, Вы можете включать ключевые слова в субдомен, от чего может также улучшиться положения ваших страниц. (Примечание: субдомен - обычно только ” WWW. ” Однако, в этом качестве можно использовать любое слово, лучше характеризующее ваш сайт).

Нас часто спрашивают относительно правильных имен роботов. Название робота не всегда соответствует названию механизма поиска. Поэтому, Вы не можете просто написать Altavista в User-agent и ожидать, что AltaVista исключит ваши обозначенные страницы. Не спрашивайте меня, почему нельзя все сделать проще. Возможно это - заговор со стороны профессионалов :-)

В любом случае, дискуссии относительно правильных имен роботов имеются. Беспорядок происходит от вебмастеров, просматривающих логи сервера и видящих сложные названия типа Scooter/2.0 G.R.A.B. X2.0, Infoseek Sidewinder/0.9, или Slurp/2.0. Названия роботов, перечисленные в ваших логах - не обязательно то, что Вы, как ожидается, будете использовать в robots.txt. Причина очень проста, стоит только задуматься. Называть робота Infoseek Sidewinder/0.9 в robots.txt не очень полезно, если поисковая система модифицирует его программное обеспечение и решает использовать Infoseek Sidewinder/2.0 как их новое название в следующем месяце. Имело бы смысл, чтобы миллионы людей узнавали это и модифицировали бы robots.txt для нового названия робота? Они ожидали бы, что люди модифицируют напильник, КАЖДЫЙ РАЗ когда любая поисковая система модифицировал бы версию робота и делать это точно, когда изменение названия произошло? Это маловероятно. В действительности, название, которое должно быть в robots.txt - любое название, которое паук поисковой системы запрограммирован искать. Поэтому, лучший источник информации для этого названия - логи, а справочная информация непосредственно от самой поисковой системы. В теории, робот может искать широкое многообразие вариаций названия. Однако, вообще они будут просто искать общий наименьший знаменатель типа “Scooter” скорее чем “Scooter/2.0”. Если поисковая система гибка, они позволят Вам использовать Scooter/2.0 также, но этому не гарантируют. Поэтому, если вы имеете уже установку robots.txt на вашем сайте, проверьте синтаксис и названия роботов против списка ниже. Все названия чувствительны к регистру.

Большинство их получено напрямую от поисковых систем или от других уважаемых источников:

Search Engine: User-Agent
AltaVista: Scooter
Infoseek: Infoseek
Hotbot: Slurp
AOL: Slurp
Excite: ArchitextSpider
Google: Googlebot
Goto: Slurp:
Lycos: Lycos
MSN: Slurp
Netscape: Googlebot
NorthernLight: Gulliver
WebCrawler: ArchitextSpider
Iwon: Slurp
Fast: Fast
DirectHit: Grabber
Yahoo Web Pages: Googlebot
Looksmart Web Pages: Slurp

Обратите внимание, что многие из двигателей используют “Slurp”, который является пауком Inktomi, использованным на HotBot и других системах на базе Inktomi. К сожалению, я не знаю способ, как Вы можете исключать страницы из паука HotBot и не исключать их из всех других Inktomi сайтов. Насколько я могу сообщить, они используют того же самого паука, чтобы индексировать страницы и таким образом читают только одну строку в robots.txt . Впрочем, если вы создаете несколько страниц, ориентированных на Inltomi, то это не имеет большого значения, так как все поисковые системы на этой базе ранжируют страницы примерно одинаково.

Так дискриминируют ли поисковые системы файлы в подкаталогах? Консультанты, с которыми я общался так не думают. Поэтому, если Вы должным образом проектируете холвей в вашем КОРНЕВОМ КАТАЛОГЕ, который связывается с дорвеем в вашем подкаталоге, сабмитите холвеи в поисковые машины, все должно быть в порядке. Это демонстрирует системе, что страницы, скорее всего являются под-страницами главного сайта. Кроме того, это было бы опасно для поисковых машин дискриминировать страницы в подкаталогах, так как наиболее большие сайты должны организовать свои страницы в подкаталоги, чтобы избежать полного хаоса. В качестве дополнительной предосторожности, Вы можете назначать субдомены на подкаталоги, как я упоминал ранее в этой статье.

Мое заключение: Если все ваши страницы имеют хорошее содержание и довольно уникальны, не волнуйтесь относительно robots.txt. Если Вы работаете только над оптимизацией существующих страниц на вашем сайте, не волнуйтесь относительно robots.txt. Если, однако, Вы решаете, что вам нужно экспериментировать с более чем несколькими страницами, которые являются довольно похожими, используйте robots.txt, особенно с AltaVista.

Наконец, после создания вашего robots.txt, Вы можете проверить его с помощью бесплатного сервиса на:

http://www.tardis.ed.ac.uk/~sxw/robots/check/

Однако, я испытывал этот сервис на нескольких файлах, и он иногда жаловался относительно вещей, которые были совершенно правильны. Поэтому, этот сервис, по моему мнению, немного глючен, что мешает его шширокому использованию. Если он указывает на ошибки в вашем файле, обратитесь к этой статье или статье ниже, чтобы проверить, что это действительно ошибки. Для технического обсуждения robots.txt протокола, смотрите:

 

http://info.webcrawler.com/mak/projects/robots/exclusion-admin.html

Автор : Gray



Источник: earchengine.ru
Голосов: 7 Общая оценка: 3.6 Просмотров: 13382
Оцените эту статью:  
   Распечатать



Ключевые слова:

составить, файл, robots



Ошибка в тексте? Выдели ее мышкой! И нажми Ctrl+Enter.
06.03.2008 11:50 DaRk-AnGeLs (DaRkAnGeLs#
0

Составил буду ждать бота..

admin 08.03.2008 18:01 Александр (admin#
0

Столько их сейчас развелось этих ботов =) За всеми не уследишь. У каждого своя фишка.

09.03.2008 07:20 DaRk-AnGeLs (DaRkAnGeLs#
0

Половина поисковиков неиндексируют текст равный цвету фона...Бесить...

17.09.2008 22:24 Роман (zybel#
0

Полезная информация, буду смотреть что написано у нас на работе :)

30.08.2010 15:01 Владимир (vlbat#
0

Я понял одно. Писал человек (вернее копировал из других источников), который не разбирается в теме совершенно. Подтверждение тому одна из многочисленных пустых цитат "...К сожалению, я не знаю способ, как Вы можете исключать страницы из паука HotBot и не исключать их из всех других Inktomi сайтов...." и тому подобное. Если уж берётесь писать, изучите тему предварительно, чтобы, извините, "не пудрить мозги" людям.

Dolphinka-rnd 17.04.2011 12:18 Мария (Dolphinka-rnd#
0

Согласна с Владимиром. Тема абсолютно не раскрыта. Полный бред...
О файле robots можно написать гораздо короче и более емко. А по Вашей статье ни один человек не сможет составить этот важный файл. Вы даже не раскрыли СУТЬ необходимости файла.
Эх, печально читать статьи людей, которые абсолютно не разбираются в теме:(


Для того , чтобы оставить здесь комментарий, необходимо зарегистрироваться на сайте.






MacBook Pro 2016


Камера GoPro 5


iPhone 7 и 7 Plus


Samsung Galaxy Note7


Винисиус и Том — талисманы Олимпийских и Паралимпийских игр 2016 в Рио-де-Жанейро


Pokémon Go

 
 

Статьи сегодня:

Как можно использовать бокалы для новогоднего декора?
Когда в доме остается несколько бокалов от набора, ...
Как украсить маникюр новогодними рисунками: две пошаговые инструкции
Зимние каникулы это идеальное время для экспериментов ...
Как легко сделать новогодний венок из живых веток?
К новогодним праздникам мы готовимся заранее. ...
Как подготовить и украсить шишки для новогоднего декора?
Основным элементом для новогоднего декора и ...
Как проходят крупнейшие музыкальные фестивали мира
Музыка – искусство, которое способно объединять ...
Как сделать пряничный домик на Новый год? Часть 2: Украшение глазурью и мастикой.
Новогодние праздники вспоминаются нам не только ...
Как улучшить внешний вид искусственной елки
Искусственная елка – отличная альтернатива ...
Как сделать устойчивую основу для новогодней елки?
Когда в доме появляется новогодняя елка, то ее ...
Как найти незабываемые пейзажи по ту сторону реки
В суете города сложно найти укромное место и ...
Как быстро украсить новогоднюю елку лентами?
Перед новогодними праздниками мы продумываем, ...

Смотрите также:

Как составить авторский блок
Не секрет, что одно из самых важных предназначении любой статьи ...
Как найти место для хранения файлов в сети
Наверняка вы когда-нибудь хотели держать в сети, например парочку файлов ...
Как скачать видео с YouTube, RuTube и других видео-сервисов
Здравствуйте! Мне бы хотелось в этой статье рассказать ...



ВОПРОСЫ - ОТВЕТЫ


НОВЫЙ ПОДКАСТ

Как Элвис Пресли стал королем рок-н-ролла
В истории музыки есть имена, прочно ассоциирующиеся ...

Все подкасты


ТЭГИ

Google Photoshop бесплатно блог браузер вашего веб Вконтакте всем вытащить дизайн добавить живые зависимость заработать защита знакомств имя интересные интернет интернет-магазин красивый любой людей место название назвать обеспечить общаться пластиковая построить потерять почта продать продвижение проект профиль развивался распознать рождался сайт сайта сайте сети сеть скорость смотреть создаются социальные Интернете товары удалить услуги факты фотографии футбол хитрости через электронная этикет

Не нашли ответа?
Спросите нас, как…


Письма читаем регулярно,
ищите ответы в соответствующей рубрике.