Robots.txt - редактор стандартных файлов управления пауками поисковиков. Программа для контроля над тем, как поисковые агенты-пауки просматривают Ваш веб-сайт и добавляют информацию о нем в базы данных поисковых систем. В этой программе есть все необходимое Вам для того, чтобы управлять и контролировать визиты пауков поисковых систем, индексирующих ваш веб-сайт. В отличие от других продуктов, данная программа содержит редактор стандартизированных файлов для контроля пауков Robots.txt.
С помощью программы Robots.txt вы можете:- Визуально генерировать стандартные файлы robots.txt;
- Идентифицировать нежелательных роботов и запрещать им доступ к Вашему сайту;
- Направлять поисковых роботов к соответственным страницам многоязычных сайтов;
- Использовать файлы Robots.txt для управления doorway-страницами;
- Не допускать роботов в системные области Вашего сайта;
- Загружать правильно отформатированный файл robots.txt прямо на ваш FTP-сервер прямо из редактора Robots.txt;
- Отслеживать посещения роботов;
- Создавать отчеты о посещениях роботов в форматах HTML, Microsoft Excel CSV и XML.
Подпишись на обновление Robots.txt и ты первым узнаешь о выходе новой версии!
Описание
Misha
