跳至主要内容

什么是 sitemap.xml 和 robots.txt? 原创 二师兄

一、什么是 sitemap.xml

 通俗一点说,   sitemap.xml 就是你网站的“导航地图”,但它不是给用户看的,而是专门给搜索引擎看的   


 简单举个例子��:

 假如你的网站有下面几个页面:

  首页:    /  

  常见问题页:    /faq/windows-error  

  英文版页面:    /en  

  中文版页面:    /zh  

 你通过 sitemap.xml 告诉搜索引擎,比如谷歌:“这些页面都很重要,你赶紧来收录一下!”


  sitemap.xml 文件长啥样?

 其实就是个简单的清单,看个例子��:

<urlset xmlns="http://www.sitemaps.org/schemas/sitemap/0.9">
  <url><loc>https://fixpc.app/</loc></url>
  <url><loc>https://fixpc.app/faq/windows-blue-screen</loc></url>
  <url><loc>https://fixpc.app/en</loc></url>
  <url><loc>https://fixpc.app/zh</loc></url>
</urlset>

 

 怎么自动生成 sitemap.xml 呢?

 最简单的办法是使用插件,比如 Next.js 项目里用    next-sitemap    插件就行,每次更新网站的时候它会自动帮你更新这个文件,非常省心!



 二、什么是 robots.txt

 robots.txt 你可以理解为网站门口的一块“公告牌”,专门告诉搜索引擎:哪些页面可以抓取,哪些页面不能抓取。

 比如:

User-agent: *
Disallow: /api/
Allow: /
Sitemap: https://fixpc.app/sitemap.xml

 解释一下这段内容��:

   Disallow: /api/    表示告诉搜索引擎:“后台接口的数据你别抓!”

   Allow: /    表示网站其他所有网页都可以抓。

   Sitemap:    后面的网址,就是上面介绍过的那个 sitemap.xml 文件的地址。

 


 三、 sitemap.xml robots.txt 有啥用?

 文件名

 用途

 是否必须?

 sitemap.xml

 告诉搜索引擎快速收录你网站的各个页面

 ✅ 必须

 robots.txt

 限制搜索引擎抓取不必要或敏感的页面

 ✅ 必须


最佳实践(开发小技巧):

  使用 Next.js 的小伙伴们,推荐用    next-sitemap    插件,一次性自动搞定 sitemap.xml 和 robots.txt。

  配置一下你的    next.config.js    文件,填写上你的网站域名,比如:    https://fixpc.app    ,就能实现自动化,省时又省力!

 

 ✨ 好啦,这下大家明白 sitemap.xml 和 robots.txt 是什么了吗?赶紧动手试试看吧~✨

 
   

评论

此博客中的热门博文

不花一分钱,用 Cloudflare Warp 免费实现科学上网 原创 W不懂安全

   在如今网络环境越来越复杂的情况下,很多人开始寻找安全、可靠、免费的科学上网方式。但动辄买 VPS、配置节点、折腾端口,对大多数人来说太麻烦。      其实你知道吗? Cloudflare 推出的      WARP       工具,只需要几步,就能让你       免费访问 Google、YouTube、ChatGPT 等国外网站       ,而且不需要任何技术背景、完全免费、跨平台支持(手机 +电脑都能用)!      如果你是学生党 / 打工人,想要上 Google 查资料、用 ChatGPT 学习、看看油管上的教程,但又不懂 VP恩、不想花钱买魔法……  

程序员的投资武器库:6 个 GitHub 顶级开源投资分析工具盘点

1. Microsoft Qlib — 微软出品的 AI 量化投资平台 🔗 GitHub: https://github.com/microsoft/qlib ⭐ 37,960 Stars | 🍴 5,894 Forks | 📄 MIT License 微软研究院出品的重量级项目。Qlib 定位为「AI 驱动的量化投资平台」,目标是用 AI 技术赋能量化研究的全流程——从探索想法到生产部署。 核心亮点: 支持多种 ML 建模范式:监督学习、市场动态建模、强化学习 内置高质量金融数据集和预处理管道 集成微软自研的 RD-Agent,可自动化研发流程 完善的文档和活跃的社区维护 适合人群: 有 Python 和机器学习基础的量化研究者,想用 AI 做系统化投资研究的开发者。 2. OpenBB — 开源版彭博终端 🔗 GitHub: https://github.com/OpenBB-finance/OpenBB ⭐ 62,276 Stars | 🍴 6,072 Forks 本榜单 Star 数最高的项目。OpenBB 的野心是做「开源版彭博终端」,为分析师、量化交易员和 AI Agent 提供统一的金融数据平台。 核心亮点: 聚合股票、期权、固定收益、经济数据等多类数据源 提供 Python SDK 和 REST API,方便集成 支持 AI Agent 直接调用,适配 LLM 时代的工作流 活跃的开发团队,持续更新中 适合人群: 需要一站式金融数据接口的开发者,想搭建自己投资分析系统的个人投资者。 3. yfinance — 最流行的雅虎财经数据接口 🔗 GitHub: https://github.com/ranaroussi/yfinance ⭐ 21,826 Stars | 🍴 3,104 Forks | 📄 Apache 2.0 如果你只想快速获取股票数据,yfinance 是最简单的选择。一行代码就能拉取历史行情、财务报表、分红记录等数据。 核心亮点: 极简 API:yf.download("AAPL") 即可获取苹果股票数据 支持批量下载、多线程加速 覆盖全球主要市场的股票、ETF、基金数据 与 Pandas 无缝集成,数据分析一步到位 适合人群: 所有需要金融市场数据的 Python 开发者,量化入门的第一个工具。...

详解 Google 账号与 Google Play 换区,看完你就明白了 原创 海外社媒ACC

               现在很多兄弟虽然解决了 Google 账号注册问题,但是对于 Google 账号的了解知之甚少。比如,你知道 Google 账号和 Google Play 的地区可以设置不一致吗?Google 账号多久未使用会被注销吗?如何安全有效地更改账号和商店地区等等疑问。