Как определить, заходил ли Яндекс на мой сайт, и какой именно робот заходил?
Yandex/1.01.001 (compatible; Win16; I) — основной индексирующий робот.
Yandex/1.01.001 (compatible; Win16; P) — картинки индексирует.
Yandex/1.01.001 (compatible; Win16; H) — определяет зеркала сайтов (Вот он ответ на вопрос как склеить зеркала и как определить заход зеркальщика Яндекса).
Yandex/1.02.000 (compatible; Win16; F) — индексирует favicons сайта.
Yandex/1.03.003 (compatible; Win16; D) — робот, заходит на страницу если она была добавлена через форму «Добавить URL».
Yandex/1.03.000 (compatible; Win16; M) — робот, обращающийся при открытии страницы по ссылке «Найденные слова».
YaDirectBot/1.0 (compatible; Win16; I) — индексирует страницы сайтов, участвующих в Рекламной сети Яндекса.
YandexBlog/0.99.101 (compatible; DOS3.30; Mozilla/5.0; B; robot) — робот поиска по блогам, индексирующий коментарии постов.
Кроме роботов, у Яндекса есть несколько агентов-«стукачей», определяющих, доступность в данный момент сайта или документа.
Yandex/2.01.000 (compatible; Win16; Dyatel; C) — «стукач» Яндекс.Каталога. Если сайт недоступен в течение нескольких дней, он снимается с публикации. Как только сайт начинает отвечать, он автоматически появляется в Каталоге.
Yandex/2.01.000 (compatible; Win16; Dyatel; Z) — «простукивалка» Яндекс.Закладок. Ссылки на недоступные сайты помечаются серым цветом.
Yandex/2.01.000 (compatible; Win16; Dyatel; D) — «простукивалка» Яндекс.Директа. Проверяет корректность ссылок из объявлений перед модерацией. Никаких автоматических действий не предпринимается.
Yandex/2.01.000 (compatible; Win16; Dyatel; N) — «простукивалка» Яндекс.Новостей. Она формирует статистические отчеты для контент-менеджера и информирует его о возможных проблемах у партнеров-поставщиков новостей.
Новые Яндекс боты
* Mozilla/5.0 (compatible; YandexBot/3.0; +http://yandex.com/bots) — основной индексирующий робот;
* Mozilla/5.0 (compatible; YandexBot/3.0; MirrorDetector; +http://yandex.com/bots) — робот, определяющий зеркала сайтов;
* Mozilla/5.0 (compatible; YandexImages/3.0; +http://yandex.com/bots) — индексатор Яндекс.Картинок;
* Mozilla/5.0 (compatible; YandexVideo/3.0; +http://yandex.com/bots) — индексатор Яндекс.Видео;
* Mozilla/5.0 (compatible; YandexMedia/3.0; +http://yandex.com/bots) — робот, индексирующий мультимедийные данные;
* Mozilla/5.0 (compatible; YandexBlogs/0.99; robot; +http://yandex.com/bots) — робот поиска по блогам, индексирующий комментарии постов;
* Mozilla/5.0 (compatible; YandexFavicons/1.0; +http://yandex.com/bots)— робот, индексирующий пиктограммы сайтов (favicons);
* Mozilla/5.0 (compatible; YandexWebmaster/2.0; +http://yandex.com/bots)— робот, обращающийся к странице при добавлении ее через форму «Добавить URL»;
* Mozilla/5.0 (compatible; YandexImageResizer/2.0; +http://yandex.com/bots) — робот мобильных сервисов;
* Mozilla/5.0 (compatible; YandexDirect3.0/; +http://yandex.com/bots) — робот, индексирующий страницы сайтов, участвующих в Рекламной сети Яндекса;
* Mozilla/5.0 (compatible; YandexDirect/2.0/; Dyatel; +http://yandex.com/bots) — «простукивалка» Яндекс.Директа. Она проверяет корректность ссылок из объявлений перед модерацией;
* Mozilla/5.0 (compatible; YandexMetrika/2.0/; +http://yandex.com/bots) — робот Яндекс.Метрики;
* Mozilla/5.0 (compatible; YandexNews/3.0/; +http://yandex.com/bots) — робот Яндекс.Новостей;
* Mozilla/5.0 (compatible; YandexCatalog/3.0/; Dyatel; +http://yandex.com/bots) — «простукивалка» Яндекс.Каталога. Если сайт недоступен в течение нескольких дней, он снимается с публикации. Как только сайт начинает отвечать, он автоматически появляется в Каталоге.
