Skip to content

02 · 搜索引擎怎么工作

抓取、索引、排名三步拆开讲

📚 系列导航:这是《SEO/GEO 入门》的第 2 篇(共 20 篇)。上一篇你铺开了三块版图的流量地图,这一篇钻进最大的那块传统搜索,把抓取、索引、排名三步管线拆开讲透。下一篇:03 · AI 引擎怎么"选人"

新站发了几十篇文章,搜自己的标题都找不到,你开始怀疑是不是被"惩罚"了;老站排名卡在第二页,你天天刷论坛找"最新算法内幕"。两种状态我都经历过。后来才明白:排名不是玄学,Google 官方把大方向都写在文档里了,缺的是一张"网页在 Google 内部经历了什么"的流程图——知道流程,才知道卡在哪一步、该修哪一环。这一篇只干一件事:把搜索引擎处理你网页的三步管线拆开,讲清每一步你能影响什么。

看完这一篇,你会拿到:

  • 一个万能定位框架:任何 SEO 问题都能归到抓取/索引/排名三步之一
  • 抓取"邀请函三件套"(robots.txt、sitemap、内链)的自查清单
  • 你自己站点的第一个健康数字:收录率
  • 排名三信号的官方口径版,从此不用追"算法泄密帖"

01 三步管线:图书馆的采购、编目、推荐

场景:你发布一篇新文章,它要排上名,中间发生了什么?就像一家图书馆进新书:先是采购员上门收书(抓取——爬虫顺着链接找到你的页面),然后编目入库(索引——不是收了就上架,有质量门槛),最后按口碑推荐给读者(排名——按一堆信号排序)。

搜索三步管线:抓取→索引→排名

落地做法:从今天起,遇到任何 SEO 问题先问"卡在哪一步"。搜不到自己的页面?先查抓取和索引,八成不是排名的事。排名上不去?那才轮到信号优化。三步各有各的药,混着治只会白忙。

💡 一句话总结:抓取管"找得到"、索引管"收不收"、排名管"排第几"——先定位卡在哪步,再对症下药。

02 抓取:给爬虫发三份邀请函

爬虫不是全知的,它靠三样东西找到你:robots.txt 是门禁规则,写错一行就能把所有爬虫拒之门外(第 5 篇会实检);sitemap 是你主动递交的书单,告诉它"我有这些页面、最近更新了哪些";内链是馆内指路牌,没有任何内链指向的"孤岛页面",爬虫很难发现。

我的教训:早期我以为发了文章爬虫自然会来,实测新页面平均两三周才被抓到;补上 sitemap、每篇加 3 条内链之后,缩短到几天。三件套不是锦上添花,是入场券。

💡 一句话总结:robots.txt 别拦错人、sitemap 交书单、内链不留孤岛——邀请函配齐,爬虫才不漏掉你。

03 索引:抓了不等于收录

很多人以为"被抓取 = 被收录",其实中间有道质量门槛:内容太薄(几百字的空壳页)、大面积重复、或和已有页面高度雷同,会被抓完就丢,不编目入库。

这就引出你该盯的第一个健康指标:收录率 = 已收录页面数 ÷ 站点实际页面数。90% 以上算健康;低于 50%,说明你一半的内容连上场资格都没拿到,先别谈排名。

💡 一句话总结:索引有质量门槛,收录率是站点的第一张体检单——先保证内容"够格入库",再谈排名。

04 排名:官方只认三类信号

按 Google 官方文档的口径,排名信号归成三类:相关性(内容有没有答对用户的问题)、权威性(有没有人背书你——外链、品牌提及)、体验(速度、移动端、HTTPS 安全)。第 8-12 篇就是按这三类逐个展开的。

别再迷信江湖偏方。我曾花两周啃各种"算法泄密帖",最后对照官方文档发现:80% 的结论人家明明白白写着,剩下 20% 是过度解读。先读说明书,再看民间攻略。

💡 一句话总结:相关性、权威性、体验——排名三信号官方全公开,别把力气花在猜谜上。

05 动手:算出你的收录率

任务:在 Google 搜索框输入 site:你的域名(如 site:example.com),记下返回的收录数;再数一下站点实际页面数(CMS 后台或 sitemap 里有);两者相除,得到收录率。

验收标准:一个具体数字,比如"实际 120 页,收录 78 页,收录率 65%"——记进笔记,这是这门课的第一个基线值。

两种结果都正常:收录率 80% 以上,抓取和索引基本健康,你的主战场在排名信号;收录率很低甚至接近 0,别慌,这正是第 5 篇和第 9 篇要修的病——你提前拿到了病历。

06 小结

你现在应该能:用三步管线定位任何 SEO 问题、按邀请函三件套自查抓取入口、算出自己站点的收录率、说出排名三信号的官方口径。

下一篇 03 · AI 引擎怎么"选人":换个战场——AI 引擎不给你排名,它直接决定"要不要念你的话",那套逻辑和三步管线完全是两回事。


📎 实战案例

一个新站上线三周没排名就慌着改版,改完信任被重置、又等了一个月。同期另一个站主老周只用 site: 查收录率(发现只收了 40%),先修 sitemap 和内链——两个月后自然流量反超那个天天改版的站。

踩坑

  • 我的第一个站上线第 3 天没排名就大改版,收录进度被重置,多等了一个多月——收录到排名以月为单位,频繁大改反而重置信任。
  • 我曾花两周研究"算法泄密帖",最后发现 80% 的结论官方文档里明写着——先读说明书,再看偏方。
  • 我以为发了文章爬虫自然会来,新页面平均两三周才被抓;补上 sitemap 和内链后缩到几天——别干等,主动发邀请函。