网站首页 软件产品 软件案例 软件资讯 关于我们 联系我们
关于伟创软件
当前位置: 首页 -> 行业资讯 -> 搜索引擎主要包含哪些核心技术
标准软件
CRM-企业客户管理
CRM-个人客户管理
项目管理系统
KM知识管理
HR人力管理
ERP资源管理
定制软件
OA协同办公系统
ERP资源管理计划
CRM客户管理
进销存管理
KM知识管理
HR人力资源管理
搜索引擎
合同管理
档案管理
设备管理
BPM流程管理
考勤管理
成本管理
数据挖掘
智能决策
企业网站
手机端应用
微信端应用
您的位置:搜索引擎主要包含哪些核心技术
 权威软件定制专家
作者:佚名  来源:网络
导语:随着因特网的迅猛发展、WEB信息的增加,用户要在信息海洋里查找信息,就象大海捞 针一样,搜索引擎技术恰好解决了这一难题(它可以为用户提供信息检索服务)。目前, 搜索引擎技术正成为计算机工业界和学术界争相研究、开发的对象。

随着因特网的迅猛发展、WEB信息的增加,用户要在信息海洋里查找信息,就象大海捞 针一样,搜索引擎技术恰好解决了这一难题(它可以为用户提供信息检索服务)。目前, 搜索引擎技术正成为计算机工业界和学术界争相研究、开发的对象。
搜索引擎是指互联网上专门提供检索服务的一类网站,这些站点的服务器通过网络搜索软件(例如网络搜索机器人)或网络登录等方式,将Intemet上大量网站的页面信息收集到本地,经过加工处理建立信息数据库和索引数据库,从而对用户提出的各种检索作出响应,提供用户所需的信息或相关指针。用户的检索途径主要包括自由词全文检索、关键词检索、分类检索及其他特殊信息的检索(如企业、人名、电话黄页等)。下面以网络搜索机器人为例来说明搜索引擎技术。

  1.网络机器人技术

  网络机器人(Robot)又被称作Spider、Worm或Random,核心目的是为获取Intemet上的信息。一般定义为“一个在网络上检索文件且自动跟踪该文件的超文本结构并循环检索被参照的所有文件的软件”。机器人利用主页中的超文本链接遍历WWW,通过U趾引用从一个HT2LIL文档爬行到另一个HTML文档。网上机器人收集到的信息可有多种用途,如建立索引、HIML文件合法性的验证、uRL链接点验证与确认、监控与获取更新信息、站点镜像等。机器人安在网上爬行,因此需要建立一个URL列表来记录访问的轨迹。它使用超文本,指向其他文档的URL是隐藏在文档中,需要从中分析提取URL,机器人一般都用于生成索引数据库。所有WWW的搜索程序都有如下的工作步骤:

  (1)机器人从起始URL列表中取出URL并从网上读取其指向的内容;

  (2)从每一个文档中提取某些信息(如关键字)并放入索引数据库中;

  (3)从文档中提取指向其他文档的URL,并加入到URL列表中;

  (4)重复上述3个步骤,直到再没有新的URL出现或超出了某些限制(时间或磁盘空间);

  (5)给索引数据库加上检索接口,向网上用户发布或提供给用户检索。

  搜索算法一般有深度优先和广度优先两种基本的搜索策略。机器人以URL列表存取的方式决定搜索策略:先进先出,则形成广度优先搜索,当起始列表包含有大量的WWW服务器地址时,广度优先搜索将产生一个很好的初始结果,但很难深入到服务器中去;先进后出,则形成深度优先搜索,这样能产生较好的文档分布,更容易发现文档的结构,即找到最大数目的交叉引用。也可以采用遍历搜索的方法,就是直接将32位的IP地址变化,逐个搜索整个Intemet。

  搜索引擎是一个技术含量很高的网络应用系统。它包括网络技术、数据库技术动标引技术、检索技术、自动分类技术,机器学习等人工智能技术。

  2.索引技术

  索引技术是搜索引擎的核心技术之一。搜索引擎要对所收集到的信息进行整理、分类、索引以产生索引库,而中文搜索引擎的核心是分词技术。分词技术是利用一定的规则和词库,切分出一个句子中的词,为自动索引做好准备。目前的索引多采用Non—clustered方法,该技术和语言文字的学问有很大的关系,具体有如下几点:

  (1)存储语法库,和词汇库配合分出句子中的词汇;

  (2)存储词汇库,要同时存储词汇的使用频率和常见搭配方式;

  (3)词汇宽,应可划分为不同的专业库,以便于处理专业文献;

  (4)对无法分词的句子,把每个字当作词来处理。

  索引器生成从关键词到URL的关系索引表。索引表一般使用某种形式的倒排表(1nversionUst),即由索引项查找相应的URL。索引表也要记录索引项在文档中出现的位置,以便检索器计算索引项之间的相邻关系或接近关系,并以特定的数据结构存储在硬盘上。

  不同的搜索引擎系统可能采用不尽相同的标引方法。例如Webcrawler利用全文检索技术,对网页中每一个单词进行索引;Lycos只对页名、标题以及最重要的100个注释词等选择性词语进行索引;Infoseek则提供概念检索和词组检索,支持and、or、near、not等布尔运算。检索引擎的索引方法大致可分为自动索引、手工索引和用户登录三类。

  3.检索器与结果处理技术

  检索器的主要功能是根据用户输入的关键词在索引器形成的倒排表中进行检索,同时完成页面与检索之间的相关度评价,对将要输出的结果进行排序,并实现某种用户相关性反馈机制。

  通过搜索引擎获得的检索结果往往成百上千,为了得到有用的信息,常用的方法是按网页的重要性或相关性给网页评级,进行相关性排序。这里的相关度是指搜索关键字在文档中出现的额度。当额度越高时,则认为该文档的相关程度越高。能见度也是常用的衡量标准之一。一个网页的能见度是指该网页入口超级链接的数目。能见度方法是基于这样的观点:一个网页被其他网页引用得越多,则该网页就越有价值。特别地,一个网页被越重要的网页所引用,则该网页的重要程度也就越高。结果处理技术可归纳为:

  (1)按频次排定次序通常,如果一个页面包含了越多的关键词,其搜索目标的相关性应该越好,这是非常合平常理的解决方案。

  (2)按页面被访问度排序在这种方法中,搜索引擎会记录它所搜索到的页面被访问的频率。人们访问较多的页面通常应该包含比较多的信息,或者有其他吸引入的长处。这种解决方案适合一般的搜索用户,而因为大部分的搜索引擎都不是专业性用户,所以这种方案也比较适合一般搜索引擎使用。

  (3)二次检索进一步净化(比flne)结果,按照一定的条件对搜索结果进行优化,可以再选择类别、相关词进行二次搜索等。




【下一篇】某顾问公司搜索引擎优化方案概述
1.1 某顾问公司网站优化说明2007年网站改版之际已经进行了核心程序优化,其相关关键词基本排在各主流搜索引擎前列;由于搜索引擎优化是一项长期、工作量大且繁琐的后台程序工作,无法直观的看到技术人员的工作业绩,……

伟创软件业务范围
软件
定制
软件
咨询
研发
顾问
数据
安全
网络
应用
数据
集成
网站
规划
数据
挖掘
企业信息化方案
400-0906-395
第69页 第68页 第67页 第66页 第65页 第64页 第63页 第62页 第61页 第60页 第59页 第58页 第57页 第56页 第55页 第54页 第53页 第52页 第51页 第50页 第49页 第48页 第47页 第46页 第45页 第44页 第43页 第42页 第41页 第40页 第39页 第38页 第37页 第36页 第35页 第34页 第33页 第32页 第31页 第30页 第29页 第28页 第27页 第26页 第25页 第24页 第23页 第22页 第21页 第20页 第19页 第18页 第17页 第16页 第15页 第14页 第13页 第12页 第11页 第10页 第9页 第8页 第7页 第6页 第5页 第4页 第3页 第2页 第1页
 
热线电话:400-0906-395   Copyright © 2008-2018 伟创软件-权威软件定制专家 All Rights Reserved. 京ICP备17005839号    行业资讯