Генератор robots.txt
C помощью этого инструмента можно получить готовое содержание для файла robots.txt, просто заполнив форму. Полученные данные скопируйте в блокнот, сохраните под названием robots с расширением .txt, и поместите в корневую папку Вашего сайта.
Команды для роботов поисковой системы Yandex
Разрешить роботам Яндекса индексировать все содержание сайта.
Запретить роботам Яндекса индексировать следующие директории или файлы:
Основное зеркало сайта
Команды для остальных поисковых систем
Выбор поисковой системы
Разрешить роботам индексировать все содержание сайта.
Запретить роботам индексировать следующие директории или файлы (например, /admin/, /tmp/page.php, каждая с новой строки):




+7 (495) 662-87-28, +38 (048) 729-78-24
Об апдейтах оперативно




