爬行和抓取
整理自网络ChatGPT产生之内容，文本内容不具备参考意义，程序内容及代码片段有且仅有借鉴意义。
爬行是指动物的行动方式，通常涉及身体的爬行和爬行的动作，如爬行动物（如蛇和蜥蜴）和爬行昆虫（如蚂蚁和蜘蛛）。 抓取是指通过握住或接触来获取动物或物体的行动。抓取可以包括动物的牙齿、爪子、手指、手掌和指甲等器官或物品如工具或表面。抓取通常是为了获取食物或其他资源，或者以进行自我保护或攻击。
外部投票是指其他网站通过链接引导用户来到被投票网站的行为。在搜索引擎的工作原理中，外部投票是非常重要的因素之一，因为搜索引擎将其视为其他网站对被投票网站的认可和推荐。 外部投票的数量和质量对搜索引擎的排名影响非常大。如果一个网站拥有高质量的外部投票，那么搜索引擎就会认为这个网站是一个权威和受欢迎的网站，排名会相应提高。相反，如果一个网站的外部投票数量和质量很差，搜索引擎就会认为这个网站不值得被推
（1）爬虫：从互联网爬取原始网页数据，存储于文档知识库服务器。（2）文档知识库服务器：存储原始网页数据，通常是分布式Key-Value数据库，能根据URL/UID快速获取网页内容。（3）索引：读取原始网页数据，解析网页，抽取有效字段，生成索引数据。索引数据的生成方式通常是增量的，分块/分片的，并会进行索引合并、优化和删除。生成的索引数据通常包括：字典数据、倒排表、正排表、文档属性等。生成的索引存储
搜索引擎通常会对用户的搜索词进行以下处理： 1. 分词：将用户输入的搜索词拆分成一个个单词，例如将“电影票”拆分为“电影”和“票”。 2. 去除停用词：将搜索词中的一些常见单词（如“的”、“了”等）去掉，因为这些词对搜索结果的影响较小。 3. 相关性计算：根据搜索引擎的算法，计算出每个搜索词与搜索结果的相关性，从而排序展示合适的结果。 4. 相关性排名：将搜索结果按相关性从高到低排序，优先
搜索引擎是通过比较网页URL，内容和相关属性来删除重复网页的，具体步骤如下： 1. 搜索引擎收集器(Crawler)会在网络上发现新网页并收集，此时会有一定概率发现相同的网页，并添加到收集器的索引中去。 2. 收集器会识别新的网页，把重复的网页排除。 3. 然后，搜索引擎把新索引serves给布置在 Indexer(索引器)中，执行深入索引，会把相同内容的文章及URL排除，仅保留一条记录
