[Charlesrha]

Если вы не можете сыскать файл robotstxt или в
нем нет инструкций о блокировке, это может быть связано с ошибкой
настройки вашего хостинга или контент-менеджмента.
Другой возможной причиной может быть использование
параметра noindex в файлах robotstxt или размещение
мета-тега noindex на страницах вашего сайта.
Эти инструкции указывают поисковым роботам не индексировать
контент, даже если он обнаружен при обходе robotstxt.
Если ваш сайт использует JavaScript или AJAX для
загрузки контента или страниц, это также может заделаться
причиной блокировки индексации. Поисковые роботы Google не всегда
способны корректно обрабатывать эдакий контент, если он не предоставлен
в явном виде при первичной загрузке страницы. сервисы для индексации интернет-магазинов

=kiss=