理论教育 搜索引擎工作原理及相关技术解析

搜索引擎工作原理及相关技术解析

时间:2023-06-09 理论教育 版权反馈
【摘要】:搜索引擎整理信息的过程称为“建立索引”。搜索引擎的工作原理大致可以分为以下三个步骤。(一)搜集信息搜索引擎的信息搜集基本都是自动的。目前,搜索引擎返回的结果主要是网页链接的形式。

搜索引擎工作原理及相关技术解析

一、索引擎的工作原理

搜索引擎的工作原理大致可以分为以下三个步骤。

(一)搜集信息

搜索引擎的信息搜集基本都是自动的。搜索引擎利用被称为网络蜘蛛的自动搜索机器人程序来连上每个网页上的超链接。机器人程序根据网页链到其他网页中的超链接,就像日常生活中所说的“一传十,十传百……”一样,从少数几个网页开始,连到数据库上所有到其他网页的链接。理论上,若网页上有适当的超链接,机器人便可以遍历绝大部分网页。

(二)整理信息

搜索引擎整理信息的过程称为“建立索引”。搜索引擎不仅要保存搜集起来的信息,还要将它们按照一定的规则进行编排。这样,搜索引擎根本不用重新翻查它所有保存的信息而迅速找到所要的资料。

(三)接受查询

用户向搜索引擎发出查询,搜索引擎接受查询并向用户返回资料。搜索引擎每时每刻都接到来自大量用户的几乎是同时发出的查询,它按照每个用户的要求检查自己的索引,在极短时间内找到用户需要的资料,并返回给用户。目前,搜索引擎返回的结果主要是网页链接的形式。通过这些链接,用户便能到达自己所需资料的网页。

二、搜索引擎的技术

随着互联网的快速发展、WEB信息的增加,用户要在信息海洋里查找信息,就像大海捞针一样,搜索引擎技术恰好解决了这一难题。

搜索引擎是随着WEB信息的迅速增加,从1995年开始逐渐发展起来的技术。如果没有搜索引擎的出现,用户想要在互联网上如此浩瀚的信息海洋里寻找信息,如同“大海捞针”。搜索引擎正是为了解决这个“迷航”问题而出现的技术。搜索引擎以一定的策略在互联网中搜集、发现信息,对信息进行理解、提取、组织和处理,并为用户提供检索服务,从而起到信息导航的目的。

(一)搜索引擎分类

按照信息搜集方法和服务提供方式的不同,搜索引擎系统可以分为三大类。

1.目录式搜索引擎

以人工方式或半自动方式搜集信息,由编辑员查看信息之后,人工形成信息摘要,并将信息置于事先确定的分类框架中。信息大多面向网站,提供目录浏览服务和直接检索服务。该类搜索引擎因为加入了人工智能,所以信息准确、导航质量高,缺点是需要人工介入、维护量大、信息量少、信息更新不及时。

2.机器人搜索引擎

由一个称为蜘蛛的机器人程序以某种策略自动地在互联网中搜集和发现信息,由索引器为搜集到的信息建立索引,由检索器根据用户的查询输入检索索引库,并将查询结果返回给用户。服务方式是面向网页的全文检索服务。该类搜索引擎的优点是信息量大、更新及时、无须人工干预,缺点是返回信息过多,有很多无关信息,用户必须从结果中进行筛选。

3.元搜索引擎

元搜索引擎就是通过一个统一的用户界面帮助用户在多个搜索引擎中选择和利用合适的(甚至是同时利用若干个)搜索引擎来实现检索操作,是对分布于网络的多种检索工具的全局控制机制。这类搜索引擎没有自己的数据,而是将用户的查询请求同时向多个搜索引擎递交,将返回的结果进行重复排除、重新排序等处理后,作为自己的结果返回给用户。服务方式为面向网页的全文检索。这类搜索引擎的优点是返回结果的信息量更大、更全,缺点是不能够充分使用所使用搜索引擎的功能,用户需要做更多的筛选。

(二)搜索引擎的结构组成

一个搜索引擎由搜索器、索引器、检索器和用户接口等四个部分组成。

1.搜索器

搜索器的功能是在互联网中漫游,发现和搜集信息。它常常是一个计算机程序,日夜不停地运行。它要尽可能多、尽可能快地搜集各种类型的新信息,同时因为互联网上的信息更新很快,所以还要定期更新已经搜集过的旧信息,以避免死链接和无效链接。目前有两种搜集信息的策略:

(1)从一个起始URL集合开始,顺着这些URL中的超链(Hyperlink),以宽度优先、深度优先或启发式方式循环地在互联网中发现信息。这些起始URL可以是任意的URL,但常常是一些非常流行、包含很多链接的站点。

(2)将Web空间按照域名、IP地址或国家域名划分,每个搜索器负责一个子空间的穷尽搜索。

搜索器搜集的信息类型多种多样,包括HTML、XML、Newsgroup文章、FTP文件、字处理文档、多媒体信息。搜索器的实现常常用分布式、并行计算技术,以提高信息发现和更新的速度。商业搜索引擎的信息发现可以达到每天几百万网帧。

2.索引器

索引器的功能是理解搜索器所搜索的信息,从中抽取出索引项,用于表示文档以及生成文档库的索引表。(www.daowen.com)

索引项有客观索引项和内容索引项两种:客观项与文档的语意内容无关,如作者名、URL、更新时间、编码、长度、链接流行度(Link Popularity)等;内容索引项是用来反映文档内容的,如关键词及其权重、短语、单字等。内容索引项可以分为单索引项和多索引项(或称短语索引项)两种。单索引项对于英文来讲是英语单词,比较容易提取,因为单词之间有天然的分隔符(空格);对于中文等连续书写的语言,必须进行词语的切分。

在搜索引擎中,一般要给单索引项赋予一个权值,以表示该索引项对文档的区分度,同时用来计算查询结果的相关度。使用的方法一般有统计法、信息论法和概率法。短语索引项的提取方法有统计法、概率法和语言学法。

索引表一般使用某种形式的倒排表(Inversion List),即由索引项查找相应的文档。索引表也可能要记录索引项在文档中出现的位置,以便检索器计算索引项之间的相邻或接近关系。

索引器可以使用集中式索引算法或分布式索引算法。当数据量很大时,必须实现即时索引(Instant Indexing),否则不能够跟上信息量急剧增加的速度。索引算法对索引器的性能(如大规模峰值查询时的响应速度)有很大的影响。一个搜索引擎的有效性在很大程度上取决于索引的质量。

3.检索器

检索器的功能是根据用户的查询在索引库中快速检出文档,进行文档与查询的相关度评价,对将要输出的结果进行排序,并实现某种用户相关性反馈机制。检索器常用的信息检索模型有集合理论模型、代数模型、概率模型和混合模型四种。

4.用户接口

用户接口的作用是输入用户查询、显示查询结果、提供用户相关性反馈机制。主要的目的是方便用户使用搜索引擎,高效率、多方式地从搜索引擎中得到有效、及时的信息。用户接口的设计和实现使用人机交互的理论和方法,以充分适应人类的思维习惯。

用户输入接口可以分为简单接口和复杂接口两种:简单接口只提供用户输入查询串的文本框;复杂接口可以让用户对查询进行限制,如逻辑运算、相近关系、域名范围、出现位置、信息时间、长度等。

三、搜索引擎市场规模

2011年中国搜索引擎市场增长70.2%,较2010年提升11.7个百分点,整体市场规模达187.8亿元。搜索引擎市场中百度占据76.4%的份额,较去年上升4.4%;同时,搜狗和搜搜的市场份额都较2010年有明显提升,分别为2.3%和1.4%,中国搜索引擎市场竞争格局更加多元(见图5-1)。

图5-1 2010Q1—2011Q4中国搜索引擎市场规模

注:搜索引擎市场规模为搜索引擎运营商营收总和,不包括搜索引擎渠道代理商营收。

资料来源:艾瑞咨询(Iresearch)官方网站。

图5-2 2006—2015年中国搜索引擎市场规模及趋势

注:搜索引擎市场规模为搜索引擎运营商营收总和,不包括搜索引擎渠道代理商营收。

资料来源:艾瑞咨询(Iresearch)官方网站。

艾瑞咨询分析认为,2011中国搜索引擎市场快速增长主要基于两方面原因。首先,在部分行业的投资热潮的背景下,大量投资资金涌入实体经济和互联网经济,有利于增加企业的营销费用。例如,电商团购等企业在2011年大幅度增加了其在搜索广告方面的投入。其次,也是最根本的原因在于企业营销正在经历从线下到线上的转移,而搜索作为营销效果最直接的网络营销方式,不仅成为中小企业网络营销的重要方式,也受到大型企业主的青睐。因而,艾瑞咨询预测未来几年,中国搜索引擎整体市场规模还将会有大幅增长(见图5-2)。

【专栏5-1】

全球最大的中文搜索引擎——百度

百度是全球最大的中文搜索引擎,2000年1月由李彦宏、徐勇两人创立于北京中关村。“百度”二字源于中国宋朝词人辛弃疾的《青玉案·元夕》词句“众里寻他千百度”,象征着百度对中文信息检索技术的执著追求。而其“熊掌”图标的灵感则来源于“猎人巡迹熊爪”。百度从最初的不足10人发展至今,员工人数超过18 000人,已成为中国最受欢迎、影响力最大的中文网站。

从创立之初,百度便将“让人们最平等、便捷地获取信息,找到所求”作为自己的使命,成立以来,公司秉承“以用户为导向”的理念,不断坚持技术创新,致力于为用户提供“简单,可依赖”的互联网搜索产品及服务,其中包括:以网络搜索为主的功能性搜索,以贴吧为主的社区搜索,针对各区域、行业所需的垂直搜索,Mp3搜索,以及门户频道、IM等,全面覆盖了中文网络世界所有的搜索需求。

在面对用户的搜索产品不断丰富的同时,百度还创新性地推出了基于搜索的营销推广服务,并成为最受企业青睐的互联网营销推广平台。目前,中国已有数十万家企业使用了百度的搜索推广服务,不断提升企业自身的品牌及运营效率。

2005年,百度在美国纳斯达克上市,一举打破首日涨幅最高等多项纪录,并成为首家进入纳斯达克成分股的中国公司。

2009年,百度推出全新的框计算技术概念,并基于此理念推出百度开放平台,帮助更多优秀的第三方开发者利用互联网平台自主创新、自主创业

随着中国互联网从PC端向移动端转型,百度也在积极围绕核心战略加大对移动和云领域的投入和布局,不断把PC领域的优势向移动领域扩展。据《2012中国网民搜索行为研究报告》数据显示,百度搜索在手机用户中的渗透率达到96.9%,用户首选率已经达到88.5%。

资料来源:http://baike.baidu.com/。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈