当前位置:   article > 正文

(十)ES 入门教程_es使用教程

es使用教程

本文为学习笔记,主要用于记录本人学习过程。部分内容为转载!!!!.

1、 ElasticSearch介绍

1.1 介绍

官方网址:https://www.elastic.co/cn/products/elasticsearch
Github:https://github.com/elastic/elasticsearch
总结:
1、elasticsearch是一个基于Lucene的高扩展的分布式搜索服务器,支持开箱即用。
2、elasticsearch隐藏了Lucene的复杂性,对外提供Restful 接口来操作索引、搜索。

突出优点:
1.扩展性好,可部署上百台服务器集群,处理PB级数据。
2.近实时的去索引数据、搜索数据。
es和solr选择哪个?
1.如果你公司现在用的solr可以满足需求就不要换了。
2.如果你公司准备进行全文检索项目的开发,建议优先考虑elasticsearch,因为像Github这样大规模的搜索都在用它。

1.2原理与应用

1.2.1索引结构

下图是ElasticSearch的索引结构,下边黑色部分是物理结构,上边橙色部分是逻辑结构,逻辑结构也是为了更好的去描述ElasticSearch的工作原理及去使用物理结构中的索引文件

 

逻辑结构部分是一个倒排索引表:
1、将要搜索的文档内容分词,所有不重复的词组成分词列表。
2、将搜索的文档最终以Document方式存储起来。
3、每个词和docment都有关联。
如下:

现在,如果我们想搜索 quick brown ,我们只需要查找包含每个词条的文档:

两个文档都匹配,但是第一个文档比第二个匹配度更高。如果我们使用仅计算匹配词条数量的简单 相似性算法 ,那么,我们可以说,对于我们查询的相关性来讲,第一个文档比第二个文档更佳。

2 ElasticaSearch安装

2.1 安装

安装配置:
1、新版本要求至少jdk1.8以上。
2、支持tar、zip、rpm等多种安装方式。
在windows下开发建议使用ZIP安装方式。
3、支持docker方式安装
详细参见:https://www.elastic.co/guide/en/elasticsearch/reference/current/install-elasticsearch.html
下载ES: Elasticsearch 6.2.1
https://www.elastic.co/downloads/past-releases
解压 elasticsearch-6.2.1.zip

bin:脚本目录,包括:启动、停止等可执行脚本
config:配置文件目录
data:索引目录,存放索引文件的地方
logs:日志目录
modules:模块目录,包括了es的功能模块
plugins :插件目录,es支持插件机制

2.2 配置文件

2.2.1 三个配置文件

ES的配置文件的地址根据安装形式的不同而不同:

使用zip、tar安装,配置文件的地址在安装目录的config下。
使用RPM安装,配置文件在/etc/elasticsearch下。
使用MSI安装,配置文件的地址在安装目录的config下,并且会自动将config目录地址写入环境变量ES_PATH_CONF。

我们使用的zip包安装,配置文件在ES安装目录的config下。
配置文件如下:

 

elasticsearch.yml : 用于配置Elasticsearch运行参数 jvm.options : 用于配置Elasticsearch JVM设置log4j2.properties: 用于配置Elasticsearch日志

2.2.2 elasticsearch.yml

配置格式是YAML,可以采用如下两种方式:
方式1:层次方式
path: data: /var/lib/elasticsearch logs: /var/log/elasticsearch
方式2:属性方式
path.data: /var/lib/elasticsearch path.logs: /var/log/elasticsearch

例子如下

  1. cluster.name: xuecheng #配置elasticsearch的集群名称,默认是elasticsearch。建议修改成一个有意义的名称。
  2. node.name: xc_node_1 #节点名,通常一台物理服务器就是一个节点,es会默认随机指定一个名字,建议指定一个有意义的名称,方便管理
  3. network.host: 0.0.0.0 #绑定ip地址
  4. http.port: 9200 #暴露的http端口
  5. transport.tcp.port: 9300 #内部端口
  6. node.master: true #主节点
  7. node.data: true #数据节点
  8. discovery.zen.ping.unicast.hosts: ["0.0.0.0:9300", "0.0.0.0:9301", "0.0.0.0:9302"] #设置集群中master节点的初始列表
  9. discovery.zen.minimum_master_nodes: 1 #主结点数量的最少值 ,此值的公式为:(master_eligible_nodes / 2) + 1 ,比如:有3个符合要求的主结点,那么这里要设置为2
  10. bootstrap.memory_lock: false #内存的锁定只给es用
  11. node.max_local_storage_nodes: 1 #单机允许的最大存储结点数,通常单机启动一个结点建议设置为1,开发环境如果单机启动多个节点可设置大于1
  12. path.data: D:\ElasticSearch\elasticsearch‐6.2.1\data #索引目录
  13. path.logs: D:\ElasticSearch\elasticsearch‐6.2.1\logs #日志
  14. http.cors.enabled: true # 跨域设置
  15. http.cors.allow‐origin: /.*/

2.2.3 jvm.options

设置最小及最大的JVM堆内存大小:
在jvm.options中设置 -Xms和-Xmx:
1) 两个值设置为相等
2) 将 Xmx 设置为不超过物理内存的一半

2.2.4 log4j2.properties

日志文件设置,ES使用log4j,注意日志级别的配置。

2.3 启动ES

进入bin目录,在cmd下运行:elasticsearch.bat

浏览器输入:http://localhost:9200
显示结果如下(配置不同内容则不同)说明ES启动成功:

2.4 head插件安装

head插件是ES的一个可视化管理插件,用来监视ES的状态,并通过head客户端和ES服务进行交互,比如创建映射、创建索引等,head的项目地址在https://github.com/mobz/elasticsearch-head
从ES6.0开始,head插件支持使得node.js运行。
1、安装node.js
2、下载head并运行
git clone git://github.com/mobz/elasticsearch-head.git
cd elasticsearch-head
npm install
npm run start open
HTTP://本地主机:9100 /
3、运行

3 ES快速入门

ES作为一个索引及搜索服务,对外提供丰富的REST接口,快速入门部分的实例使用head插件来测试,目的是对ES的使用方法及流程有个初步的认识。

3.1 创建索引库

ES的索引库是一个逻辑概念,它包括了分词列表及文档列表,同一个索引库中存储了相同类型的文档。它就相当于MySQL中的表,或相当于Mongodb中的集合。
关于索引这个语:
索引(名词):ES是基于Lucene构建的一个搜索服务,它要从索引库搜索符合条件索引数据。
索引(动词):索引库刚创建起来是空的,将数据添加到索引库的过程称为索引。
下边介绍两种创建索引库的方法,它们的工作原理是相同的,都是客户端向ES服务发送命令。
1)使用postman或curl这样的工具创建:
put http://localhost:9200/索引库名称

  1. {
  2. "settings":{
  3. "index":{
  4. "number_of_shards":1,
  5. "number_of_replicas":0
  6. }
  7. }
  8. }

number_of_shards:设置分片的数量,在集群中通常设置多个分片,表示一个索引库将拆分成多片分别存储不同的结点,提高了ES的处理能力和高可用性,入门程序使用单机环境,这里设置为1。
number_of_replicas:设置副本的数量,设置副本是为了提高ES的高可靠性,单机环境设置为0.
如下是创建的例子,创建xc_course索引库,共1个分片,0个副本:

  • 使用head插件创建

     

     

3.2 创建映射

3.2.1 概念说明

在索引中每个文档都包括了一个或多个field,创建映射就是向索引库中创建field的过程,下边是document和field与关系数据库的概念的类比:

文档(Document)----------------Row记录
字段(Field)-------------------Columns 列
注意:6.0之前的版本有type(类型)概念,type相当于关系数据库的表,ES官方将在ES9.0版本中彻底删除type。
上边讲的创建索引库相当于关系数据库中的数据库还是表?
1、如果相当于数据库就表示一个索引库可以创建很多不同类型的文档,这在ES中也是允许的。
2、如果相当于表就表示一个索引库只能存储相同类型的文档,ES官方建议 在一个索引库中只存储相同类型的文档。

3.2.2 创建映射

我们要把信息存储到ES中,这里我们创建信息的映射,先来一个简单的映射,如下:
发送:post http://localhost:9200/索引库名称/类型名称/_mapping
创建类型为xc_course的映射,共包括三个字段:name、description、studymondel
由于ES6.0版本还没有将type彻底删除,所以暂时把type起一个没有特殊意义的名字。
post 请求:http://localhost:9200/xc_course/doc/_mapping
表示:在xc_course索引库下的doc类型下创建映射。doc是类型名,可以自定义,在ES6.0中要弱化类型的概念,给它起一个没有具体业务意义的名称。

  1. {
  2. "properties": {
  3. "name": {
  4. "type": "text"
  5. },
  6. "description": {
  7. "type": "text"
  8. },
  9. "studymodel": {
  10. "type": "keyword"
  11. }
  12. }
  13. }

映射创建成功,查看head界面:

3.3 创建文档

ES中的文档相当于MySQL数据库表中的记录。
发送:put 或Post http://localhost:9200/xc_course/doc/id
(如果不指定id值ES会自动生成ID)
http://localhost:9200/xc_course/doc/4028e58161bcf7f40161bcf8b77c0000

  1. {
  2. "name":"Bootstrap开发框架",
  3. "description":"Bootstrap是由Twitter推出的一个前台页面开发框架,在行业之中使用较为广泛。此开发框架包含了大量的CSS、JS程序代码,可以帮助开发者(尤其是不擅长页面开发的程序人员)轻松的实现一个不受浏览器限制的精美界面效果。",
  4. "studymodel":"201001"
  5. }

使用postman测试:

通过head查询数据:

3.4 搜索文档

1、根据课程id查询文档
发送:get http://localhost:9200/xc_course/doc/4028e58161bcf7f40161bcf8b77c0000
使用postman测试:

2、查询所有记录
发送 get http://localhost:9200/xc_course/doc/_search
3、查询名称中包括spring 关键字的的记录
发送:get http://localhost:9200/xc_course/doc/_search?q=name:bootstrap
4、查询学习模式为201001的记录
发送 get http://localhost:9200/xc_course/doc/_search?q=studymodel:201001

3.4.1查询结果分析

  1. {
  2. "took": 4,
  3. "timed_out": false,
  4. "_shards": {
  5. "total": 1,
  6. "successful": 1,
  7. "skipped": 0,
  8. "failed": 0
  9. },
  10. "hits": {
  11. "total": 1,
  12. "max_score": 1,
  13. "hits": [
  14. {
  15. "_index": "xc_course",
  16. "_type": "doc",
  17. "_id": "4028e58161bcf7f40161bcf8b77c0000",
  18. "_score": 1,
  19. "_source": {
  20. "name": "Bootstrap开发框架",
  21. "description": "Bootstrap是由Twitter推出的一个前台页面开发框架,在行业之中使用较为广泛。此开发框架包含了大量的CSS、JS程序代码,可以帮助开发者(尤其是不擅长页面开发的程序人员)轻松的实现一个不受浏览器限制的精美界面效果。",
  22. "studymodel": "201001"
  23. }
  24. }
  25. ]
  26. }
  27. }

took:本次操作花费的时间,单位为毫秒。
timed_out:请求是否超时
_shards:说明本次操作共搜索了哪些分片
hits:搜索命中的记录
hits.total : 符合条件的文档总数 hits.hits :匹配度较高的前N个文档
hits.max_score:文档匹配得分,这里为最高分
_score:每个文档都有一个匹配度得分,按照降序排列。
_source:显示了文档的原始内容。

4 IK分词器

4.1测试分词器

在添加文档时会进行分词,索引中存放的就是一个一个的词(term),当你去搜索时就是拿关键字去匹配词,最终找到词关联的文档。
测试当前索引库使用的分词器:
post 发送:localhost:9200/_analyze
{"text":"测试分词器,后边是测试内容:spring cloud实战"}
结果如下:

会发现分词的效果将 “测试” 这个词拆分成两个单字“测”和“试”,这是因为当前索引库使用的分词器对中文就是单字分词。

4.2 安装IK分词器

使用IK分词器可以实现对中文分词的效果。
下载IK分词器:(Github地址:https://github.com/medcl/elasticsearch-analysis-ik
下载zip:解压,并将解压的文件拷贝到ES安装目录的plugins下的ik目录下

测试分词效果:
发送:post localhost:9200/_analyze
{"text":"测试分词器,后边是测试内容:spring cloud实战","analyzer":"ik_max_word" }

 

4.3 两种分词模式

ik分词器有两种分词模式:ik_max_word和ik_smart模式。
1、ik_max_word
会将文本做最细粒度的拆分,比如会将“中华人民共和国人民大会堂”拆分为“中华人民共和国、中华人民、中华、华人、人民共和国、人民、共和国、大会堂、大会、会堂等词语。
2、ik_smart
会做最粗粒度的拆分,比如会将“中华人民共和国人民大会堂”拆分为中华人民共和国、人民大会堂。

4.4 自定义词库

如果要让分词器支持一些专有词语,可以自定义词库。
iK分词器自带一个main.dic的文件,此文件为词库文件。

打开IKAnalyzer.cfg.xml配置一下

在上边的目录中新建一个my.dic文件(注意文件格式为utf-8(不要选择utf-8 BOM))
可以在其中自定义词汇:
比如定义:

重启ES,测试分词效果:
发送:post localhost:9200/_analyze

 

6 映射类型

6.1 映射维护方法

1、查询所有索引的映射:
GET: http://localhost:9200/_mapping
2、创建映射
post 请求:http://localhost:9200/xc_course/doc/_mapping
一个例子:

  1. {
  2. "properties": {
  3. "name": {
  4. "type": "text"
  5. },
  6. "description": {
  7. "type": "text"
  8. },
  9. "studymodel": {
  10. "type": "keyword"
  11. }
  12. }
  13. }

3、更新映射
映射创建成功可以添加新字段,已有字段不允许更新。
4、删除映射
通过删除索引来删除映射。

6.2 常用映射类型

6.2.1 text文本字段

字符串包括text和keyword两种类型:
1、text
1)analyzer
通过analyzer属性指定分词器。
下边指定name的字段类型为text,使用ik分词器的ik_max_word分词模式。

  1. "name": {
  2. "type": "text",
  3. "analyzer":"ik_max_word"
  4. }

上边指定了analyzer是指在索引和搜索都使用ik_max_word,如果单独想定义搜索时使用的分词器则可以通过search_analyzer属性。

对于ik分词器建议是索引时使用ik_max_word将搜索内容进行细粒度分词,搜索时使用ik_smart提高搜索精确性

  1. "name": {
  2. "type": "text",
  3. "analyzer":"ik_max_word",
  4. "search_analyzer":"ik_smart"
  5. }

2)index
通过index属性指定是否索引。
默认为index=true,即要进行索引,只有进行索引才可以从索引库搜索到。
但是也有一些内容不需要索引,比如:商品图片地址只被用来展示图片,不进行搜索图片,此时可以将index设置
为false。
删除索引,重新创建映射,将pic的index设置为false,尝试根据pic去搜索,结果搜索不到数据

  1. pic": {
  2. "type": "text",
  3. "index":false
  4. }

3)store
是否在source之外存储,每个文档索引后会在 ES中保存一份原始文档,存放在"_source"中,一般情况下不需要设置store为true,因为在_source中已经有一份原始文档了。

6.2.2 keyword关键字字段

上边介绍的text文本字段在映射时要设置分词器,keyword字段为关键字字段,通常搜索keyword是按照整体搜索,所以创建keyword字段的索引时是不进行分词的,比如:邮政编码、手机号码、身份证等。keyword字段通常用于过虑、排序、聚合等。

6.2.3 date日期类型

日期类型不用设置分词器。
通常日期类型的字段用于排序。
1)format
通过format设置日期格式
例子:
下边的设置允许date字段存储年月日时分秒、年月日及毫秒三种格式。

  1. {
  2. "properties": {
  3. "timestamp": {
  4. "type": "date",
  5. "format": "yyyy‐MM‐dd HH:mm:ss||yyyy‐MM‐dd"
  6. }
  7. }
  8. }

6.2.4 数值类型

下边是ES支持的数值类型
1、尽量选择范围小的类型,提高搜索效率
2、对于浮点数尽量用比例因子,比如一个价格字段,单位为元,我们将比例因子设置为100这在ES中会按 分 存储,映射如下:

  1. "price": {
  2. "type": "scaled_float",
  3. "scaling_factor": 100
  4. }

由于比例因子为100,如果我们输入的价格是23.45则ES中会将23.45乘以100存储在ES中。
如果输入的价格是23.456,ES会将23.456乘以100再取一个接近原始值的数,得出2346。
使用比例因子的好处是整型比浮点型更易压缩,节省磁盘空间。

 

6索引管理

6.1 搭建工程

6.1.1 ES客户端

ES提供多种不同的客户端:

1、TransportClient
ES提供的传统客户端,官方计划8.0版本删除此客户端。

2、RestClient
RestClient是官方推荐使用的,它包括两种:Java Low Level REST Client和 Java High Level REST Client。
ES在6.0之后提供 Java High Level REST Client, 两种客户端官方更推荐使用 Java High Level REST Client,不过当前它还处于完善中,有些功能还没有。
我们准备采用 Java High Level REST Client,如果它有不支持的功能,则使用Java Low Level REST Client。
1、添加依赖:

  1. <dependency>
  2. <groupId>org.elasticsearch.client</groupId>
  3. <artifactId>elasticsearch‐rest‐high‐level‐client</artifactId>
  4. <version>6.2.1</version>
  5. </dependency>
  6. <dependency>
  7. <groupId>org.elasticsearch</groupId>
  8. <artifactId>elasticsearch</artifactId>
  9. <version>6.2.1</version>
  10. </dependency>

2、配置文件

  1. server:
  2. port: ${port:40100}
  3. spring:
  4. application:
  5. name: xc-search-service
  6. xuecheng:
  7. elasticsearch:
  8. hostlist: ${eshostlist:127.0.0.1:9200} #多个结点中间用逗号分隔

3、配置类

  1. @Configuration
  2. public class ElasticsearchConfig {
  3. @Value("${xuecheng.elasticsearch.hostlist}")
  4. private String hostlist;
  5. @Bean
  6. public RestHighLevelClient restHighLevelClient(){
  7. //解析hostlist配置信息
  8. String[] split = hostlist.split(",");
  9. //创建HttpHost数组,其中存放es主机和端口的配置信息
  10. HttpHost[] httpHostArray = new HttpHost[split.length];
  11. for(int i=0;i<split.length;i++){
  12. String item = split[i];
  13. httpHostArray[i] = new HttpHost(item.split(":")[0], Integer.parseInt(item.split(":")[1]), "http");
  14. }
  15. //创建RestHighLevelClient客户端
  16. return new RestHighLevelClient(RestClient.builder(httpHostArray));
  17. }
  18. //项目主要使用RestHighLevelClient,对于低级的客户端暂时不用
  19. @Bean
  20. public RestClient restClient(){
  21. //解析hostlist配置信息
  22. String[] split = hostlist.split(",");
  23. //创建HttpHost数组,其中存放es主机和端口的配置信息
  24. HttpHost[] httpHostArray = new HttpHost[split.length];
  25. for(int i=0;i<split.length;i++){
  26. String item = split[i];
  27. httpHostArray[i] = new HttpHost(item.split(":")[0], Integer.parseInt(item.split(":")[1]), "http");
  28. }
  29. return RestClient.builder(httpHostArray).build();
  30. }
  31. }

6.2创建索引库

  1. @SpringBootTest
  2. @RunWith(SpringRunner.class)
  3. public class TestSearch {
  4. @Autowired
  5. RestHighLevelClient restHighLevelClient;
  6. @Autowired
  7. RestClient restClient;
  8. @Test
  9. public void creatIndex() throws IOException {
  10. //创建索引请求对象
  11. CreateIndexRequest createIndexRequest = new CreateIndexRequest("xc_course");
  12. //设置索引参数
  13. createIndexRequest.settings(Settings.builder().put("number_of_shards",1).put("number_of_replicas",0));
  14. //设置映射
  15. createIndexRequest.mapping("doc","{\n" +
  16. "\"properties\": {\n" +
  17. "\"name\": {\n" +
  18. "\"type\": \"text\",\n" +
  19. "\"analyzer\":\"ik_max_word\",\n" +
  20. "\"search_analyzer\":\"ik_smart\"\n" +
  21. "},\n" +
  22. "\"description\": {\n" +
  23. "\"type\": \"text\",\n" +
  24. "\"analyzer\":\"ik_max_word\",\n" +
  25. "\"search_analyzer\":\"ik_smart\"\n" +
  26. "},\n" +
  27. "\"studymodel\": {\n" +
  28. "\"type\": \"keyword\"\n" +
  29. "},\n" +
  30. "\"price\": {\n" +
  31. "\"type\": \"float\"\n" +
  32. "},\n" +
  33. "\"timestamp\": {\n" +
  34. "\"type\": \"date\",\n" +
  35. "\"format\": \"yyyy‐MM‐dd HH:mm:ss||yyyy‐MM‐dd||epoch_millis\"\n" +
  36. "}\n" +
  37. "}\n" +
  38. "}\n" ,XContentType.JSON);
  39. //链接客户端
  40. IndicesClient client = restHighLevelClient.indices();
  41. //创建响应对象
  42. CreateIndexResponse response = client.create(createIndexRequest);
  43. //响应
  44. boolean acknowledged = response.isAcknowledged();
  45. System.out.println(acknowledged);
  46. }
  47. @Test
  48. public void delIndex() throws IOException {
  49. //创建索引请求对象
  50. DeleteIndexRequest deleteIndexRequest = new DeleteIndexRequest("xc_course");
  51. //链接客户端
  52. IndicesClient client = restHighLevelClient.indices();
  53. //删除索引
  54. DeleteIndexResponse delete = client.delete(deleteIndexRequest);
  55. //响应
  56. boolean acknowledged = delete.isAcknowledged();
  57. System.out.println(acknowledged);
  58. }
  59. }

6.3 添加文档

  1. @Test
  2. public void addDoc() throws IOException {
  3. //准备json数据
  4. Map<String, Object> jsonMap = new HashMap<>();
  5. jsonMap.put("name", "spring cloud实战");
  6. jsonMap.put("description", "本课程主要从四个章节进行讲解: 1.微服务架构入门 2.spring cloud 基础入门 3.实战Spring Boot 4.注册中心eureka。");
  7. jsonMap.put("studymodel", "201001");
  8. SimpleDateFormat dateFormat =new SimpleDateFormat("yyyy‐MM‐dd HH:mm:ss");
  9. jsonMap.put("timestamp", dateFormat.format(new Date()));
  10. jsonMap.put("price", 5.6f);
  11. //创建索引请求对象
  12. IndexRequest indexRequest = new IndexRequest("xc_course","doc");
  13. //指定索引添加文档
  14. indexRequest.source(jsonMap);
  15. //链接客户端
  16. IndexResponse indexResponse = restHighLevelClient.index(indexRequest);
  17. //获取响应结果
  18. DocWriteResponse.Result result = indexResponse.getResult();
  19. System.out.println(result);
  20. }

6.4 查询文档

  1. @Test
  2. public void queryDoc() throws IOException {
  3. GetRequest getRequest = new GetRequest("xc_course","doc","5W8t9WgBMHjTRj0U9GkF");
  4. GetResponse getResponse = restHighLevelClient.get(getRequest);
  5. boolean exists = getResponse.isExists();
  6. Map<String, Object> sourceAsMap = getResponse.getSourceAsMap();
  7. System.out.println(sourceAsMap);
  8. }

7搜索管理

7.1 准备环境

  1. 创建xc_course索引库。
  2. 创建映射:
  3. post:http://localhost:9200/xc_course/doc/_mapping
  4. {
  5. "properties": {
  6. "description": {
  7. "type": "text",
  8. "analyzer": "ik_max_word",
  9. "search_analyzer": "ik_smart"
  10. },
  11. "name": {
  12. "type": "text",
  13. "analyzer": "ik_max_word",
  14. "search_analyzer": "ik_smart"
  15. },
  16. "pic":{
  17. "type":"text",
  18. "index":false
  19. },
  20. "price": {
  21. "type": "float"
  22. },
  23. "studymodel": {
  24. "type": "keyword"
  25. },
  26. "timestamp": {
  27. "type": "date",
  28. "format": "yyyy-MM-dd HH:mm:ss||yyyy-MM-dd||epoch_millis"
  29. }
  30. }
  31. }
  32. 初始化文档:
  33. http://localhost:9200/xc_course/doc/1
  34. {
  35. "name": "Bootstrap开发",
  36. "description": "Bootstrap是由Twitter推出的一个前台页面开发框架,是一个非常流行的开发框架,此框架集成了多种页面效果。此开发框架包含了大量的CSS、JS程序代码,可以帮助开发者(尤其是不擅长页面开发的程序人员)轻松的实现一个不受浏览器限制的精美界面效果。",
  37. "studymodel": "201002",
  38. "price":38.6,
  39. "timestamp":"2018-04-25 19:11:35",
  40. "pic":"group1/M00/00/00/wKhlQFs6RCeAY0pHAAJx5ZjNDEM428.jpg"
  41. }
  42. http://localhost:9200/xc_course/doc/2
  43. {
  44. "name": "java编程基础",
  45. "description": "java语言是世界第一编程语言,在软件开发领域使用人数最多。",
  46. "studymodel": "201001",
  47. "price":68.6,
  48. "timestamp":"2018-03-25 19:11:35",
  49. "pic":"group1/M00/00/00/wKhlQFs6RCeAY0pHAAJx5ZjNDEM428.jpg"
  50. }
  51. http://localhost:9200/xc_course/doc/3
  52. {
  53. "name": "spring开发基础",
  54. "description": "spring 在java领域非常流行,java程序员都在用。",
  55. "studymodel": "201001",
  56. "price":88.6,
  57. "timestamp":"2018-02-24 19:11:35",
  58. "pic":"group1/M00/00/00/wKhlQFs6RCeAY0pHAAJx5ZjNDEM428.jpg"
  59. }

7.3 DSL搜索

DSL(Domain Specific Language)是ES提出的基于json的搜索方式,在搜索时传入特定的json格式的数据来完成不同的搜索需求。
DSL比URI搜索方式功能强大,在项目中建议使用DSL方式来完成搜索。

7.3.1 查询所有文档

  1. @SpringBootTest
  2. @RunWith(SpringRunner.class)
  3. public class TestSearch {
  4. @Autowired
  5. RestHighLevelClient restHighLevelClient;
  6. @Autowired
  7. RestClient restClient;
  8. @Test
  9. public void queryAll() throws IOException, ParseException {
  10. //搜索请求对象
  11. SearchRequest searchRequest = new SearchRequest("xc_course");
  12. //指定类型
  13. searchRequest.types("doc");
  14. //搜索源构建对象
  15. SearchSourceBuilder searchSourceBuilder = new SearchSourceBuilder();
  16. //搜索方式
  17. //matchAllQuery搜索全部
  18. searchSourceBuilder.query(QueryBuilders.matchAllQuery());
  19. //设置源字段过虑,第一个参数结果集包括哪些字段,第二个参数表示结果集不包括哪些字段
  20. searchSourceBuilder.fetchSource(new String[]{"name","studymodel","price","timestamp"},new String[]{});
  21. //向搜索请求对象中设置搜索源
  22. searchRequest.source(searchSourceBuilder);
  23. //执行搜索,向ES发起http请求
  24. SearchResponse searchResponse = restHighLevelClient.search(searchRequest);
  25. //搜索结果
  26. SearchHits hits = searchResponse.getHits();
  27. //匹配到的总记录数
  28. long totalHits = hits.getTotalHits();
  29. //得到匹配度高的文档
  30. SearchHit[] searchHits = hits.getHits();
  31. //日期格式化对象
  32. SimpleDateFormat dateFormat = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");
  33. for(SearchHit hit:searchHits){
  34. //文档的主键
  35. String id = hit.getId();
  36. //源文档内容
  37. Map<String, Object> sourceAsMap = hit.getSourceAsMap();
  38. String name = (String) sourceAsMap.get("name");
  39. //由于前边设置了源文档字段过虑,这时description是取不到的
  40. String description = (String) sourceAsMap.get("description");
  41. //学习模式
  42. String studymodel = (String) sourceAsMap.get("studymodel");
  43. //价格
  44. Double price = (Double) sourceAsMap.get("price");
  45. //日期
  46. Date timestamp = dateFormat.parse((String) sourceAsMap.get("timestamp"));
  47. System.out.println(name);
  48. System.out.println(studymodel);
  49. System.out.println(description);
  50. }
  51. }
  52. }

7.3.2 分页查询

ES支持分页查询,传入两个参数:from和size。
form:表示起始文档的下标,从0开始。
size:查询的文档数量。

  1. //分页查询
  2. @Test
  3. public void testSearchPage() throws IOException, ParseException {
  4. //搜索请求对象
  5. SearchRequest searchRequest = new SearchRequest("xc_course");
  6. //指定类型
  7. searchRequest.types("doc");
  8. //搜索源构建对象
  9. SearchSourceBuilder searchSourceBuilder = new SearchSourceBuilder();
  10. //设置分页参数
  11. //页码
  12. int page = 1;
  13. //每页记录数
  14. int size = 1;
  15. //计算出记录起始下标
  16. int from = (page-1)*size;
  17. searchSourceBuilder.from(from);//起始记录下标,从0开始
  18. searchSourceBuilder.size(size);//每页显示的记录数
  19. //搜索方式
  20. //matchAllQuery搜索全部
  21. searchSourceBuilder.query(QueryBuilders.matchAllQuery());
  22. //设置源字段过虑,第一个参数结果集包括哪些字段,第二个参数表示结果集不包括哪些字段
  23. searchSourceBuilder.fetchSource(new String[]{"name","studymodel","price","timestamp"},new String[]{});
  24. //向搜索请求对象中设置搜索源
  25. searchRequest.source(searchSourceBuilder);
  26. //执行搜索,向ES发起http请求
  27. SearchResponse searchResponse = client.search(searchRequest);
  28. //搜索结果
  29. SearchHits hits = searchResponse.getHits();
  30. //匹配到的总记录数
  31. long totalHits = hits.getTotalHits();
  32. //得到匹配度高的文档
  33. SearchHit[] searchHits = hits.getHits();
  34. //日期格式化对象
  35. SimpleDateFormat dateFormat = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");
  36. for(SearchHit hit:searchHits){
  37. //文档的主键
  38. String id = hit.getId();
  39. //源文档内容
  40. Map<String, Object> sourceAsMap = hit.getSourceAsMap();
  41. String name = (String) sourceAsMap.get("name");
  42. //由于前边设置了源文档字段过虑,这时description是取不到的
  43. String description = (String) sourceAsMap.get("description");
  44. //学习模式
  45. String studymodel = (String) sourceAsMap.get("studymodel");
  46. //价格
  47. Double price = (Double) sourceAsMap.get("price");
  48. //日期
  49. Date timestamp = dateFormat.parse((String) sourceAsMap.get("timestamp"));
  50. System.out.println(name);
  51. System.out.println(studymodel);
  52. System.out.println(description);
  53. }
  54. }

7.3.3 Term Query

Term Query为精确查询,在搜索时会整体匹配关键字,不再将关键字分词

  1. //TermQuery
  2. @Test
  3. public void testTermQuery() throws IOException, ParseException {
  4. //搜索请求对象
  5. SearchRequest searchRequest = new SearchRequest("xc_course");
  6. //指定类型
  7. searchRequest.types("doc");
  8. //搜索源构建对象
  9. SearchSourceBuilder searchSourceBuilder = new SearchSourceBuilder();
  10. //设置分页参数
  11. //页码
  12. int page = 1;
  13. //每页记录数
  14. int size = 1;
  15. //计算出记录起始下标
  16. int from = (page-1)*size;
  17. searchSourceBuilder.from(from);//起始记录下标,从0开始
  18. searchSourceBuilder.size(size);//每页显示的记录数
  19. //搜索方式
  20. //termQuery
  21. searchSourceBuilder.query(QueryBuilders.termQuery("name","spring"));
  22. //设置源字段过虑,第一个参数结果集包括哪些字段,第二个参数表示结果集不包括哪些字段
  23. searchSourceBuilder.fetchSource(new String[]{"name","studymodel","price","timestamp"},new String[]{});
  24. //向搜索请求对象中设置搜索源
  25. searchRequest.source(searchSourceBuilder);
  26. //执行搜索,向ES发起http请求
  27. SearchResponse searchResponse = client.search(searchRequest);
  28. //搜索结果
  29. SearchHits hits = searchResponse.getHits();
  30. //匹配到的总记录数
  31. long totalHits = hits.getTotalHits();
  32. //得到匹配度高的文档
  33. SearchHit[] searchHits = hits.getHits();
  34. //日期格式化对象
  35. SimpleDateFormat dateFormat = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");
  36. for(SearchHit hit:searchHits){
  37. //文档的主键
  38. String id = hit.getId();
  39. //源文档内容
  40. Map<String, Object> sourceAsMap = hit.getSourceAsMap();
  41. String name = (String) sourceAsMap.get("name");
  42. //由于前边设置了源文档字段过虑,这时description是取不到的
  43. String description = (String) sourceAsMap.get("description");
  44. //学习模式
  45. String studymodel = (String) sourceAsMap.get("studymodel");
  46. //价格
  47. Double price = (Double) sourceAsMap.get("price");
  48. //日期
  49. Date timestamp = dateFormat.parse((String) sourceAsMap.get("timestamp"));
  50. System.out.println(name);
  51. System.out.println(studymodel);
  52. System.out.println(description);
  53. }
  54. }

7.3.4 根据id精确匹配

ES提供根据多个id值匹配的方法:

  1. //根据id查询
  2. @Test
  3. public void testTermQueryByIds() throws IOException, ParseException {
  4. //搜索请求对象
  5. SearchRequest searchRequest = new SearchRequest("xc_course");
  6. //指定类型
  7. searchRequest.types("doc");
  8. //搜索源构建对象
  9. SearchSourceBuilder searchSourceBuilder = new SearchSourceBuilder();
  10. //搜索方式
  11. //根据id查询
  12. //定义id
  13. String[] ids = new String[]{"1","2"};
  14. searchSourceBuilder.query(QueryBuilders.termsQuery("_id",ids));
  15. //设置源字段过虑,第一个参数结果集包括哪些字段,第二个参数表示结果集不包括哪些字段
  16. searchSourceBuilder.fetchSource(new String[]{"name","studymodel","price","timestamp"},new String[]{});
  17. //向搜索请求对象中设置搜索源
  18. searchRequest.source(searchSourceBuilder);
  19. //执行搜索,向ES发起http请求
  20. SearchResponse searchResponse = client.search(searchRequest);
  21. //搜索结果
  22. SearchHits hits = searchResponse.getHits();
  23. //匹配到的总记录数
  24. long totalHits = hits.getTotalHits();
  25. //得到匹配度高的文档
  26. SearchHit[] searchHits = hits.getHits();
  27. //日期格式化对象
  28. SimpleDateFormat dateFormat = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");
  29. for(SearchHit hit:searchHits){
  30. //文档的主键
  31. String id = hit.getId();
  32. //源文档内容
  33. Map<String, Object> sourceAsMap = hit.getSourceAsMap();
  34. String name = (String) sourceAsMap.get("name");
  35. //由于前边设置了源文档字段过虑,这时description是取不到的
  36. String description = (String) sourceAsMap.get("description");
  37. //学习模式
  38. String studymodel = (String) sourceAsMap.get("studymodel");
  39. //价格
  40. Double price = (Double) sourceAsMap.get("price");
  41. //日期
  42. Date timestamp = dateFormat.parse((String) sourceAsMap.get("timestamp"));
  43. System.out.println(name);
  44. System.out.println(studymodel);
  45. System.out.println(description);
  46. }
  47. }

7.3.9 排序

可以在字段上添加一个或多个排序,支持在keyword、date、float等类型上添加,text类型的字段上不允许添加排序。

  1. //Sort
  2. @Test
  3. public void testSort() throws IOException, ParseException {
  4. //搜索请求对象
  5. SearchRequest searchRequest = new SearchRequest("xc_course");
  6. //指定类型
  7. searchRequest.types("doc");
  8. //搜索源构建对象
  9. SearchSourceBuilder searchSourceBuilder = new SearchSourceBuilder();
  10. //boolQuery搜索方式
  11. //定义一个boolQuery
  12. BoolQueryBuilder boolQueryBuilder = QueryBuilders.boolQuery();
  13. //定义过虑器
  14. boolQueryBuilder.filter(QueryBuilders.rangeQuery("price").gte(0).lte(100));
  15. searchSourceBuilder.query(boolQueryBuilder);
  16. //添加排序
  17. searchSourceBuilder.sort("studymodel", SortOrder.DESC);
  18. searchSourceBuilder.sort("price", SortOrder.ASC);
  19. //设置源字段过虑,第一个参数结果集包括哪些字段,第二个参数表示结果集不包括哪些字段
  20. searchSourceBuilder.fetchSource(new String[]{"name","studymodel","price","timestamp"},new String[]{});
  21. //向搜索请求对象中设置搜索源
  22. searchRequest.source(searchSourceBuilder);
  23. //执行搜索,向ES发起http请求
  24. SearchResponse searchResponse = client.search(searchRequest);
  25. //搜索结果
  26. SearchHits hits = searchResponse.getHits();
  27. //匹配到的总记录数
  28. long totalHits = hits.getTotalHits();
  29. //得到匹配度高的文档
  30. SearchHit[] searchHits = hits.getHits();
  31. //日期格式化对象
  32. SimpleDateFormat dateFormat = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");
  33. for(SearchHit hit:searchHits){
  34. //文档的主键
  35. String id = hit.getId();
  36. //源文档内容
  37. Map<String, Object> sourceAsMap = hit.getSourceAsMap();
  38. String name = (String) sourceAsMap.get("name");
  39. //由于前边设置了源文档字段过虑,这时description是取不到的
  40. String description = (String) sourceAsMap.get("description");
  41. //学习模式
  42. String studymodel = (String) sourceAsMap.get("studymodel");
  43. //价格
  44. Double price = (Double) sourceAsMap.get("price");
  45. //日期
  46. Date timestamp = dateFormat.parse((String) sourceAsMap.get("timestamp"));
  47. System.out.println(name);
  48. System.out.println(studymodel);
  49. System.out.println(description);
  50. }
  51. }



------------------------------------------------------------------------------------------------------------------------------------------------------

原文链接1:https://www.jianshu.com/p/403c9d5b1463

原文链接2:https://www.jianshu.com/p/7d687c9dba4f

原文链接3:https://www.jianshu.com/p/3cb80dcf514f

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/知新_RL/article/detail/68357
推荐阅读
相关标签
  

闽ICP备14008679号