Como ajusto la frecuencia y horario en que los buscadores (bots) escanean mi sitio?Blog Solucionix |
|
Como ajusto la frecuencia y horario en que los buscadores (bots) escanean mi sitio? Para controlar a los robots de Google Google tiene un metodo para optimizar los horarios y frecuencia en que se escanea tu sitio pero si deseas tener el completo control 1.- Entra a Google Webmaster Tools 2.- Agrega tu sitio 3.- Selecciona tu sitio y ve a site settings o ajustes 4.- Selecciona la opcion de limitar manualmente al robot de escneo de google 5.- Por default aparecerá el marcador blanco en donde Google estima que es lo optimo para tu sitio pero como mencionamos, si detectas que Google esta alentando tu servidor baja el marcador hasta la frecuencia deseada y guarda los cambios. Para controlar a los robots de Bing Los Robots de Bing no estan tan optimizados como los de google asi que no saben realmente cuales son tus horas pico y pueden causar mayores problemas de lentitud. Para controlarlos sigue los pasos: 1.- Ve a Bing Network Webmaster Tools s 3.- Selecciona tu sitio y ve a Configure my site o configurar mi sitio y selecciona crawl control o control de escaneo. Tambien existen robots buenos como los de buscadores como Google, Bing yYahoo y robots malos que se usan solo para afectar sitios y rendimiento. Para esto debemos crear o manipular el archivo robots.txt del directorio raiz (/home/userna5/public_html/robots.txt) Los Robots que debes permitir son: Googlebot Yahoo! Slurp bingbot Los robots conocidos que debes bloquear son: AhrefsBot Baiduspider Ezooms MJ12bot YandexBot Entonces si por ejemplo queremos bloquear los dos primeros robots dañoinos pondriamos: User-agent: AhrefsBot Disallow: / User-agent: Baiduspider Disallow: / |
|