Spring5-Cloud1部署es及IK分词器使用_spring es +ik

elasticsearch

elasticsearch底层是基于lucene来实现的。Lucene是一个Java语言的搜索引擎类库，是Apache公司的顶级项目，由DougCutting于1999年研发。官网地址：https://lucene.apache.org/ 。

我们统一的把mysql与elasticsearch的概念做一下对比：

• Mysql：

• Elasticsearch：
  因此在企业中，往往是两者结合使用：

• 对安全性要求较高的写操作，使用mysql实现，擅长事务类型操作，可以确保数据的安全和一致性

• 对查询性能要求较高的搜索需求，使用elasticsearch实现，擅长海量数据的搜索、分析、计算

• 两者再基于某种方式，实现数据的同步，保证一致性

部署单节点elasticsearch

[root@es ~]# curl -o /etc/yum.repos.d/docker.repo  http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
[root@es ~]# yum install -y docker-ce
[root@es ~]# docker network create es-net
//需要让es和kibana容器互联，这里先创建一个网络
[root@es ~]# docker network ls
NETWORK ID     NAME      DRIVER    SCOPE
17e06b6ddcc9   es-net    bridge    local
[root@es ~]# docker load -i es.tar
[root@es ~]# docker run -d --name es -e "ES_JAVA_OPTS=-Xms512m -Xmx512m" \
    -e "discovery.type=single-node"    -v es-data:/usr/share/elasticsearch/data \
    -v es-plugins:/usr/share/elasticsearch/plugins --privileged --network es-net  -p 9200:9200 -p 9300:9300 elasticsearch:7.12.1
1
2
3
4
5
6
7
8
9
10
11

命令解释：

-e "ES_JAVA_OPTS=-Xms512m -Xmx512m"：内存大小
-e "discovery.type=single-node"：非集群模式
-v es-data:/usr/share/elasticsearch/data：挂载逻辑卷，绑定es的数据目录
-v es-plugins:/usr/share/elasticsearch/plugins：挂载逻辑卷，绑定es的插件目录
--privileged：授予逻辑卷访问权
--network es-net ：加入一个名为es-net的网络中
-p 9200:9200：端口映射配置
-e "cluster.name=es-docker-cluster"：设置集群名称
-e "http.host=0.0.0.0"：监听的地址，可以外网访问
-v es-logs:/usr/share/elasticsearch/logs：挂载逻辑卷，绑定es的日志目录
1
2
3
4
5
6
7
8
9
10

在浏览器中输入：192…168.1.11:9200访问

{
  "name" : "82dfbf85ec6e",
  "cluster_name" : "docker-cluster",
  "cluster_uuid" : "_ZS41HYmSHWSb97yq8gBxA",
  "version" : {
    "number" : "7.12.1",
    "build_flavor" : "default",
    "build_type" : "docker",
    "build_hash" : "3186837139b9c6b6d23c3200870651f10d3343b7",
    "build_date" : "2021-04-20T20:56:39.040728659Z",
    "build_snapshot" : false,
    "lucene_version" : "8.8.0",
    "minimum_wire_compatibility_version" : "6.8.0",
    "minimum_index_compatibility_version" : "6.0.0-beta1"
  },
  "tagline" : "You Know, for Search"
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17

部署kibana

运行docker命令，部署kibana

[root@es ~]# docker run -d --name kibana  -e ELASTICSEARCH_HOSTS=http://es:9200 \
--network=es-net -p 5601:5601 kibana:7.12.1
1
2

-e ELASTICSEARCH_HOSTS=http://es:9200：设置elasticsearch的地址，因为kibana已经与elasticsearch在一个网络，因此可以用容器名直接访问elasticsearch
1

kibana启动一般比较慢，需要多等待一会，可以通过命令：

[root@es ~]# docker logs -f kibana
1

查看运行日志，当查看到下面的日志，说明成功：
浏览器输入地址访问192.168.1.11:5601

DevTools

kibana中提供了一个DevTools界面：这个界面中可以编写DSL来操作elasticsearch。并且对DSL语句有自动补全功能。

部署IK分词器

分词器测试

POST /_analyze     
//POST 请求方式
// _analyze：请求路径，这里省略了http://192.168.1.11:9200，有kibana帮我们补充
{
  "analyzer": "standard",    //analyzer分词器类型，这里是默认的standard分词器，不支持中文
  "text": "你好world！"		//text：要分词的内容
}
1
2
3
4
5
6
7

安装IK分词器

[root@es ~]# docker exec -it elasticsearch /bin/bash
# 在线下载并安装，较慢。可以先下好在安装
# ./bin/elasticsearch-plugin  install https://github.com/medcl/elasticsearch-analysis-ik/releases/download/v7.12.1/elasticsearch-analysis-ik-7.12.1.zip
[root@es ~]# docker restart elasticsearch
1
2
3
4

3.2.离线安装ik插件（推荐）

[root@es ~]# docker volume ls
DRIVER    VOLUME NAME
local     es-data
local     es-plugins
[root@es ~]# docker volume inspect es-plugins
[
    {
        "CreatedAt": "2022-04-03T09:36:08+08:00",
        "Driver": "local",
        "Labels": null,
        "Mountpoint": "/var/lib/docker/volumes/es-plugins/_data",
        //es-plugins目录被挂载的地方
        "Name": "es-plugins",
        "Options": null,
        "Scope": "local"
    }
]
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17

[root@es ~]# mv ik /var/lib/docker/volumes/es-plugins/_data/
[root@es ~]# docker restart es
[root@es ~]# docker logs -f es
1
2
3

测试：

IK分词器包含两种模式：ik_smart：最少切分，ik_max_word：最细切分。
执行后结果就跟之前默认的standard分词器有些区别了

扩展词词典

随着互联网的发展，出现了很多新的词语，在原有的词汇列表中并不存在。比如：“奥力给” 。很多语言是不允许在网络上传递的，比如敏感词。创建启用词词典my_first.dic，停用词词典stopword.dic

IK分词器提供了扩展词汇、停用词汇的功能。启用词词典、停用词词典。
1）打开IK分词器config目录：

[root@es ~]# ls /var/lib/docker/volumes/es-plugins/_data/ik/config/
extra_main.dic              extra_single_word_low_freq.dic  main.dic         stopword.dic
extra_single_word.dic       extra_stopword.dic              preposition.dic  suffix.dic
extra_single_word_full.dic  IKAnalyzer.cfg.xml              quantifier.dic   surname.dic
//定义的字典放到IKAnalyzer.cfg.xml所在的目录下
[root@es ~]# cat /var/lib/docker/volumes/es-plugins/_data/ik/config/IKAnalyzer.cfg.xml
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
        <comment>IK Analyzer 扩展配置</comment>
        <!--用户可以在这里配置自己的扩展字典 -->
        <entry key="ext_dict"></entry>
         <!--用户可以在这里配置自己的扩展停止词字典-->
        <entry key="ext_stopwords"></entry>
        <!--用户可以在这里配置远程扩展字典 -->
        <!-- <entry key="remote_ext_dict">words_location</entry> -->
        <!--用户可以在这里配置远程扩展停止词字典-->
        <!-- <entry key="remote_ext_stopwords">words_location</entry> -->
</properties>
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19

词典创建

创建启用词词典my_first.dic，停用词词典stopword.dic
注意当前文件的编码必须是 UTF-8 格式，严禁使用Windows记事本编辑

[root@es ~]# cat /var/lib/docker/volumes/es-plugins/_data/ik/config/my_first.dic
奥利
[root@es ~]# cat /var/lib/docker/volumes/es-plugins/_data/ik/config/stopword.dic
给
1
2
3
4

启用词典 my_first.dic stopword.dic

[root@es ~]# vim /var/lib/docker/volumes/es-plugins/_data/ik/config/IKAnalyzer.cfg.xml
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
        <comment>IK Analyzer 扩展配置</comment>
        <!--用户可以在这里配置自己的扩展字典 *** 添加扩展词典-->
        <entry key="ext_dict">my_first.dic</entry>
        <entry key="ext_stopwords">stopword.dic</entry>   
</properties>
[root@es ~]# docker restart es
1
2
3
4
5
6
7
8
9
10

重启es测试

4.部署es集群

部署es集群可以直接使用docker-compose来完成，不过要求你的Linux虚拟机至少有4G的内存空间
首先编写一个docker-compose文件，内容如下：

cat docker-compose.yml
version: '2.2'
services:
  es01:
    image: docker.elastic.co/elasticsearch/elasticsearch:7.12.1
    container_name: es01
    environment:
      - node.name=es01
      - cluster.name=es-docker-cluster
      - discovery.seed_hosts=es02,es03
      - cluster.initial_master_nodes=es01,es02,es03
      - bootstrap.memory_lock=true
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    ulimits:
      memlock:
        soft: -1
        hard: -1
    volumes:
      - data01:/usr/share/elasticsearch/data
    ports:
      - 9200:9200
    networks:
      - elastic
  es02:
    image: docker.elastic.co/elasticsearch/elasticsearch:7.12.1
    container_name: es02
    environment:
      - node.name=es02
      - cluster.name=es-docker-cluster
      - discovery.seed_hosts=es01,es03
      - cluster.initial_master_nodes=es01,es02,es03
      - bootstrap.memory_lock=true
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    ulimits:
      memlock:
        soft: -1
        hard: -1
    volumes:
      - data02:/usr/share/elasticsearch/data
    networks:
      - elastic
  es03:
    image: docker.elastic.co/elasticsearch/elasticsearch:7.12.1
    container_name: es03
    environment:
      - node.name=es03
      - cluster.name=es-docker-cluster
      - discovery.seed_hosts=es01,es02
      - cluster.initial_master_nodes=es01,es02,es03
      - bootstrap.memory_lock=true
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    ulimits:
      memlock:
        soft: -1
        hard: -1
    volumes:
      - data03:/usr/share/elasticsearch/data
    networks:
      - elastic

volumes:
  data01:
    driver: local
  data02:
    driver: local
  data03:
    driver: local

networks:
  elastic:
    driver: bridge
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71

es运行需要修改一些linux系统权限，修改/etc/sysctl.conf文件

vi /etc/sysctl.conf
vm.max_map_count=262144
sysctl -p
1
2
3

通过docker-compose启动集群：

docker-compose up -d
1

4.2.集群状态监控cerebro

kibana可以监控es集群，不过新版本需要依赖es的x-pack 功能，配置比较复杂。这里推荐使用cerebro来监控es集群状态，

r: local

networks:
elastic:
driver: bridge

es运行需要修改一些linux系统权限，修改/etc/sysctl.conf文件

```sh
vi /etc/sysctl.conf
vm.max_map_count=262144
sysctl -p
1
2
3
4
5
6
7

通过docker-compose启动集群：

docker-compose up -d
1

4.2.集群状态监控cerebro

kibana可以监控es集群，不过新版本需要依赖es的x-pack 功能，配置比较复杂。这里推荐使用cerebro来监控es集群状态，

输入你的elasticsearch的任意节点的地址和端口，点击connect即可：