Fichier d'exclusion des robots

Gelose | Tous les portails | Portail Medecine | Portail Biologie | Portail Biochimie | Portail Microbiologie | Portail Ecologie | Portail Botanique | Biologie cellulaire | Portail Zoologie | Science de la terre | Portail Eau |


 Inscrivez votre site en haut de cette page Soumission direct par Allopass, obtenez 1 lien de qualite en haut de cette page Fichier d--exclusion des robots ainsi que sur la page des nouveaux sites inscrits pour seulement 20 euros!


Le fichier d'exclusion des robots d'un site web est un fichier nommé robots.txt placé au plus haut niveau du site, et qui permet d'indiquer à certains ou à tous les moteurs de recherches ce qu'ils ne doivent pas indexer. Cependant, le fichier n'est pris en compte que par les robots, et n'a donc aucun effet sur les navigateurs web. Aussi, certains robots n'en tiennent pas compte et ne respectent pas le standard d'exclusion des robots.

[] Exemples

Autoriser tous les robots à accéder à tout le site:

User-agent: *
Disallow:

Empêcher tous les robots d'accéder au site:

User-agent: *
Disallow: /

Pour empêcher tous les robots sauf Googlebot d'accéder à un dossier en particulier, par exemple http://example.org/forum/

User-agent: *
Disallow: /forum

User-agent: googlebot
Disallow:

[] Voir aussi

[] Liens externes

Fichier_d--exclusion_des_robots