搜索引擎的基本工作原理是：用户向搜索引擎输入一系列关键词，搜索引擎会从自身拥有的网页数据库中根据相关算法去检索出匹配度最高的搜索结果进行显示和返回给用户。 搜索引擎的基本流程包括： 1. 网页爬虫：搜索引擎会通过程序自动爬取网页上的数据。 2. 网页索引：搜索引擎会把所有爬取的数据进行索引，并在索引中建立统一的编号，以便后续的检索。 3. 网页分类：搜索引擎会把所有索引的内容进行分类，例如新闻，图片，视频等等，以便后续根据不同类别进行检索。 4.关键词搜索：当用户输入关键词进行搜索时，搜索引擎会根据用户关键词的关键字和定义的搜索算法去搜索自身的索引库，找出匹配度较高的内容进行检索，并将搜索结果返回给用户。 5.排序：搜索引擎会根据不同的算法，对检索出的结果进行排序，并在搜索结果里面进行展示，以便用户可以快速看到需要的内容。
虽然搜索引擎排名技术和算法一直在提高，但我相信所有搜索引擎都或多或少有人工干预，就算最标榜一切以算法和自动化为目标的Google，也肯定有人工因素。去年就曾经有人报道（http://www.searchbistro.com/index.php?/archives/19-Google-Secret-Lab,-Prelude.html），Google在很多国家的大学招募学生，进行搜索引擎结果的评价工作
编者按：之前与大家分享了关于搜索引擎抓取系统中有关抓取系统基本框架、抓取中涉及的网络协议、抓取的基本过程的内容，今天将于大家分享搜索引擎抓取系统第二部分内容—spider抓取过程中的策略。spider在抓取过程中面对着复杂的网络环境，为了使系统可以抓取到尽可能多的有价值资源并保持系统及实际环境中页面的一致性同时不给网站体验造成压力，会设计多种复杂的抓取策略。以下简单介绍一下抓取过程中涉及到的主要策
虽然搜索引擎排名技术和算法一直在提高，但我相信所有搜索引擎都或多或少有人工干预，就算最标榜一切以算法和自动化为目标的Google，也肯定有人工因素。去年就曾经有人报道（http://www.searchbistro.com/index.php?/archives/19-Google-Secret-Lab,-Prelude.html），Google在很多国家的大学招募学生，进行搜索引擎结果的评价工作
（1）爬虫：从互联网爬取原始网页数据，存储于文档知识库服务器。（2）文档知识库服务器：存储原始网页数据，通常是分布式Key-Value数据库，能根据URL/UID快速获取网页内容。（3）索引：读取原始网页数据，解析网页，抽取有效字段，生成索引数据。索引数据的生成方式通常是增量的，分块/分片的，并会进行索引合并、优化和删除。生成的索引数据通常包括：字典数据、倒排表、正排表、文档属性等。生成的索引存储
