Добрый день, Гость! Представляем Вам наши форумы. Вы можете зарегистрироваться чтобы писать на форумах или зайдите под своим именем, если Вы уже регистрировались.
   
   


Форум
 SX CMS | Основная тема
         Наглый бот Mail.ru

Похожие темы  |  Печать страницы

Наглый бот Mail.ru


События Пятница, 29.07.2011, 10:18

SX

Группа: Администратор
Cообщений: 2873
Регистрация: 23.10.2009
Этот прием работает и с другими ботами, подставив их юзерагент, та что листайте логи доступа апача Моя хата скраю

Так же можно задать интервал для всех ботов

User-agent: *
Crawl-delay: 10

И не забываем что robots.txt, должен иметь юникс переносы строк, иначе не будет работать.

Отредактировано Status-X: 29.07.2011, 10:22:38


Благодарности NickSysTara, wsforex


Пользователь офлайн


Похожие темы  |  Печать страницы  |   Предыдущая тема  |   Следующая тема

Быстрый переход:  
 

 Сейчас на сайте

Пользователей: 0, Гостей: 9

Поисковые боты: 34
Bot, oBot(28), Yandex(2), Googlebot(2), Crawler
 Статистика форума

  Темы Сообщения Пользователи
За сутки:
За неделю:
За месяц:
Всего:
Мы приветствуем нового участника: Scorpion-78
 Дни рождения

Jek (38), phpcoder (26)
Печать | Copyright © 2009 - 2017 Status-X All rights reserved | Powered by CMS Status-X 1.05 | Контакты