# robots.txt - 飞扬个人网站爬虫规则 # https://www.cwj666.top/ # 允许所有搜索引擎爬虫访问 User-agent: * # 网站地图位置 Sitemap: https://www.cwj666.top/sitemap.xml # 允许访问的路径 Allow: / # 禁止访问的路径(注意:不屏蔽 CSS/JS,搜索引擎需要这些资源正确渲染页面) Disallow: /admin/ Disallow: /server/ Disallow: /api/ # 爬虫延迟设置(可选,防止过度爬取) Crawl-delay: 1 # 重要提示 # 此文件用于指导搜索引擎爬虫的访问行为 # 建议配合 sitemap.xml 使用