赞
踩
本文ES版本是7.X以上,之前的版本语法可能会有些差异,请注意这些比较重要的细节。问海量数据搜索时为什么ES会比较快?
- BoolQueryBuilder boolQuery = QueryBuilders.boolQuery();
-
- boolQuery.must(QueryBuilders.termQuery("name", queryVO.getKey()));
- # paras在后
- boolQuery.must(QueryBuilders.matchQuery("Name",queryVO.getKey());
- # paras在前,字段在后
- boolQuery.must(QueryBuilders.multiMatchQuery(queryVO.getKey(),
- "P1.text",
- "Log",
- "Name",
- "Desc"));
如果时间字段写入时用的类型是Text,可以用“时间字段.keyword”来处理
- #只有字段是Text时,字段后面才加“.ketword”
- searchSourceBuilder.sort("createTime.keyword", SortOrder.DESC);
- #范围查询
- boolQuery.must(QueryBuilders
- .rangeQuery("createTime.keyword")
- .gt(queryVO.getCreateTimeStart())
- .lt(queryVO.getCreateTimeEnd()));
- #查询前传入分页参数
- searchSourceBuilder.from((queryVO.getPageIndex() - 1) * queryVO.getPageSize()).size(queryVO.getPageSize());
searchHits.getTotalHits()
把文档D对应到关键词的映射转换为关键词到文档ID的映射,每个关键词都对应着一系列的文档,这些文档中都出现这个关键词。
带有单词频率、文档频率和出现位置信息的倒排索引
(1)无损压缩,文档编号重排序后用压缩算法进行压缩:确保在倒排表中相邻的两个文档的文档编号也相邻,这样D-Gap值也较小。希望内容越相似的文档其文档编号也越相似。 例子:包含“百度”的文档冲排序为文档编号相邻的文档,则创建“百度”倒排表时候,相邻的差值(D-Gap)则较小。百度-----D-Gap{1,4,9} 转化为 百度------D-Gap{1,1,1}, 要压缩的原始数据值变小,则获得较高的压缩率。 文档编号重新排序,可以依靠按照某些主题词来聚类,将同一个类的文档编号排成相邻的。
(2)有损压缩,静态索引裁剪:将不重要的索引项从倒排索引中清除,只保留重要的索引项。静态索引裁剪分为:
a、以单词为中心的索引裁剪 根据默认返回数目,设定每个单词的倒排表的项至少为k个,设计相似性函数,计算单词和文档的相似性得分,把分数小于设定阈值的文档信息从倒排表中裁剪掉。
b、以文档为中心的索引裁剪 在建立索引之前,把文档中不重要的词语删除掉。这样的话可能导致通用词或者停用词的倒排表为空。
*******故以单词为中心的索引裁剪是更加常用的方法。
1)查询时能够一次得到查询关键字对应的所有文档,查间效率高于正向索引
2)每个字或词对应的文档数量都在动态变化。倒排表的建立和维护较复杂
以文档的ID为关键字,表中记录文档中每个字的位置信息,查找时扫描表中每个文档中字的信息直到找出所有包含查询关键字的文档。
1)索引建立和维护都比较容易
2)文本检索效率低
在海量数据查询时,搜关键词,假设只存在正向索引(tnwrad index),那么就需要扫描索引库中的所有文档,找出所有包含关键j架构的文档;再根据打分模型进行打分,排出名次后呈现给用户。因为互联网上收录在搜索引擎中的文档的数目是个天文数字,这样的索引结构根本无法满足实时返回排名结果的要求。
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。