Robots.txt是一个存放在网站根目录的纯文本文件（必须小写命名），采用ASCII编码格式。其核心功能是通过声明规则，指导搜索引擎蜘蛛（如Googlebot、Baiduspider）抓取权限范围： - 允许访问：开放优质内容抓取，提升S