В WordPress изменится метод, используемый для предотвращения индексации сайтов со стороны поисковых систем. Ранее после выбора опции «Запретить поисковым системам индексировать сайт» на странице Settings – Reading в…

Блог про WordPress

Владельцы веб-сайтов исключают веб-краулеры уже на протяжении 25 лет с помощью протокола Robots Exclusion Protocol (REP). По данным Google, более 500 млн сайтов в сети используют файлы robots.txt…

Блог про WordPress

Вопросов по поводу использования robots.txt всегда довольно много, а потому мы решили несколько развеять их, написав данную статью. Если вы до сих пор не знаете, что представляет собой…

Блог про WordPress