赞
踩
目录
Elasticsearch是一个开源的分布式搜索和分析引擎,它构建在Apache Lucene搜索库之上。它被设计用于处理大规模数据集并提供实时搜索和分析功能。Elasticsearch具有高可用性、可扩展性和容错性,能够快速地处理结构化和非结构化数据。它支持全文搜索、实时数据分析和复杂的查询,可用于构建各种应用程序,包括日志分析、实时指标和指标可视化、全文搜索、安全分析等。
Elasticsearch的底层数据索引采用倒排索引,这是一种将关键词与文档关联起来的数据结构。通过倒排索引,Elasticsearch可以在不需要扫描整个文档的情况下快速地找到包含特定关键词的文档。
此外,Elasticsearch提供了Restful API,开发人员可以轻松地与其进行交互,并支持各种编程语言的客户端。它以分布式的方式运行,可以将数据分片并分布到多个节点上,以实现水平扩展和负载均衡。
总的来说,Elasticsearch是一个功能强大的搜索和分析引擎,适用于各种规模和类型的项目,可以高效地处理大规模数据集并提供实时搜索和分析功能。
注意:/home/elk用户下文件的权限问题
防火墙状态:systemctl status firewalld
关闭防火墙:systemctl stop firewalld
重启防火墙:systemctl start firewalld
禁止防火墙开机启动:systemctl disable firewalld
- Elasticsearch: 7.8.0
- https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-7.8.0-linux-x86_64.tar.gz
目的:确保系统有足够的资源启动ES
路径:vi /etc/sysctl.conf
配置:#增加以下参数
- vm.max_map_count=655360
- fs.file-max=655360
- vm.swappiness=0
确保配置生效
sysctl -p
备注:swappiness参数值可设置范围在0到100之间。低参数值 会 让 内核尽量少用交换,更高参数值会使内核更多的去使用交 换空间。
目的:修改最大文件打开数量
路径:vi /etc/security/limits.conf
配置:#增加以下参数
- * soft nofile 65536
- * hard nofile 131072
- * soft nproc 65536
- * hard nproc 131072
- * soft memlock unlimited
- * hard memlock unlimited
目的:修改进程数
路径:vi /etc/security/limits.d/20-nproc.conf
配置:#设置elk用户参数 (本地线程数)
elk soft nproc 65536
命令:reboot
- 创建elk用户和组
- useradd elk #创建用户elk
- groupadd elk #创建组elk
- useradd -d /home/elk elk -g elk #将用户添加到组
- 备注:需要将elk用户先假如到/etc/sudoer下。
- 切换到root用户下:ll /etc/sudoers
- 赋权:chmod u+w /etc/sudoers
- 编辑: vi /etc/sudoers
- root ALL=(ALL) ALL
- elk ALL=(ALL) ALL
- 截图如下:
-
- 赋权:chmod 440 /etc/sudoers
将jdk1.8.0_201.tar.gz分别上传到ES1、ES2、ES3用户的/home/elk目录下。
命令:tar zxvf jdk1.8.0_201.tar.gz
分别修改ES1、ES2、ES3机器上elk用户下jdk的环境变量
- 命令:vi /home/elk/.bashrc
- 添加如下参数:
- export JAVA_HOME=/home/elk/jdk1.8.0_201
- export JRE_HOME=$JAVA_HOME/jre
- export CLASSPATH=.:$JAVA_HOME/lib:$JRE_HOME/lib:$CLASSPATH
- export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATH
- 使环境变量生效:source ~/.bashrc
命令:java -version
出现如下提示,则代表安装成功
将elasticsearch-7.8.0-linux-x86_64.tar.gz分别上传到ES1、ES2、ES3 用户的/home/elk目录下
命令:tar zxvf elasticsearch-7.8.0-linux-x86_64.tar.gz
在ES1、ES2、ES3用户下分别创建如下目录:
- mkdir /home/elk/es
- mkdir /home/elk/es/data
- mkdir /home/elk/es/logs
分别修改ES1、ES2、ES3机用户下的elasticsearch.yml文件
命令:vi elasticsearch-7.8.0/config/elasticsearch.yml
- # 修改ES1-10.62.196.29########
- #集群名称
- cluster.name: my-es
- #节点名称,每个节点的名称不能重复
- node.name: node-1
- #ip地址,每个节点的地址不能重复
- network.host: 10.62.196.29
- #是不是有资格主节点
- node.master: true
- node.data: true
- http.port: 9200
- # 数据存储路径
- path.data: /home/elk/es/data
- path.logs: /home/elk/es/logs
- # head 插件需要这打开这两个配置
- http.cors.allow-origin: "*"
- http.cors.enabled: true
- http.max_content_length: 1000mb
- #es7.x 之后新增的配置,初始化一个新的集群时需要此配置来选举 master
- cluster.initial_master_nodes: ["node-1","node-2","node-3"]
- #es7.x 之后新增的配置,节点发现
- discovery.seed_hosts: ["10.62.196.29:9300","10.62.196.37:9300","10.62.196.56:9300"]
- gateway.recover_after_nodes: 2
- #是否开启TCP保活机制。
- network.tcp.keep_alive: true
- #是否关闭Nagle算法(减少延迟)
- network.tcp.no_delay: true
- #是否启用TCP压缩传输
- transport.tcp.compress: true
- #集群内同时启动的数据任务个数,默认是 2个
- cluster.routing.allocation.cluster_concurrent_rebalance: 16
- #添加或删除节点及负载均衡时并发恢复的线程个数,默认 4个
- cluster.routing.allocation.node_concurrent_recoveries: 16
- #初始化数据恢复时,并发恢复线程的个数,默认 4个
- cluster.routing.allocation.node_initial_primaries_recoveries: 16
- #######ES2-10.62.196.37########
- #集群名称
- cluster.name: my-es
- #节点名称,每个节点的名称不能重复
- node.name: node-2
- #ip地址,每个节点的地址不能重复
- network.host: 10.62.196.37
- #是不是有资格主节点
- node.master: true
- node.data: true
- http.port: 9200
- # head 插件需要这打开这两个配置
- http.cors.allow-origin: "*"
- http.cors.enabled: true
- http.max_content_length: 1000mb
- #es7.x 之后新增的配置,初始化一个新的集群时需要此配置来选举 master
- cluster.initial_master_nodes: ["node-1","node-2","node-3"]
- #es7.x 之后新增的配置,节点发现
- discovery.seed_hosts: ["10.62.196.29:9300","10.62.196.37:9300","10.62.196.56:9300"]
- gateway.recover_after_nodes: 2
- network.tcp.keep_alive: true
- network.tcp.no_delay: true
- transport.tcp.compress: true
- #集群内同时启动的数据任务个数,默认是 2个
- cluster.routing.allocation.cluster_concurrent_rebalance: 16
- #添加或删除节点及负载均衡时并发恢复的线程个数,默认 4个
- cluster.routing.allocation.node_concurrent_recoveries: 16
- #初始化数据恢复时,并发恢复线程的个数,默认 4个
- cluster.routing.allocation.node_initial_primaries_recoveries: 16
- #######ES3-10.62.196.56########
- #集群名称
- cluster.name: my-es
- #节点名称,每个节点的名称不能重复
- node.name: node-3
- #ip地址,每个节点的地址不能重复
- network.host: 10.62.196.56
- #是不是有资格主节点
- node.master: true
- node.data: true
- http.port: 9200
- # head 插件需要这打开这两个配置
- http.cors.allow-origin: "*"
- http.cors.enabled: true
- http.max_content_length: 1000mb
- #es7.x 之后新增的配置,初始化一个新的集群时需要此配置来选举 master
- cluster.initial_master_nodes: ["node-1","node-2","node-3"]
- #es7.x 之后新增的配置,节点发现
- discovery.seed_hosts: ["10.62.196.29:9300","10.62.196.37:9300","10.62.196.56:9300"]
- gateway.recover_after_nodes: 2
- network.tcp.keep_alive: true
- network.tcp.no_delay: true
- transport.tcp.compress: true
- #集群内同时启动的数据任务个数,默认是 2个
- cluster.routing.allocation.cluster_concurrent_rebalance: 16
- #添加或删除节点及负载均衡时并发恢复的线程个数,默认 4个
- cluster.routing.allocation.node_concurrent_recoveries: 16
- #初始化数据恢复时,并发恢复线程的个数,默认 4个
- cluster.routing.allocation.node_initial_primaries_recoveries: 16
分别修改ES1、ES2、ES3用户下的jvm.options文件
- 路径:/home/elk/elasticsearch-7.8.0/config/
- 编辑:vi jvm.options
- -Xms1g ----修改成 -Xms4g
- -Xmx1g ----修改成 -Xmx4g
分别修改ES1、ES2、ES3用户下的elasticsearch-env文件
路径:/home/elk/elasticsearch-7.8.0/bin/
编辑:elasticsearch-env文件,屏蔽红色框中内容。
路径:cd /home/elk/elasticsearch-7.8.0/bin
后台启动:./elasticsearch -d (分别启动ES1、ES2、ES3的es)
查看elasticsearch进程: ps -ef | grep elastic
查看节点运行情况:http://10.62.196.29:9200/_cat/nodes?v
显示如下截图则代表集群启动成功
检查节点健康状态:http://10.62.196.56:9200/_cluster/health?pretty
- Kibana部署参见文档:
- 《https://blog.csdn.net/qq_43253382/article/details/134620424?spm=1001.2014.3001.5502》
路径:/home/elk/kibana-7.8.0-linux-x86_64/config
命令:vi kibana.yml
- #修改如下内容
- i18n.locale: "zh-CN"
- server.port: 5601
- server.host: "10.62.196.19" #kibana本机的地址
- elasticsearch.hosts: ["http://10.62.196.29:9200","http://10.62.196.37:9200","http://10.62.196.56:9200"]
- kibana.index: ".kibana"
A.检查ES集群节点
B.检查ES集群健康状态
打开Microsoft Edge浏览器,选择“扩展”,搜索“elasticsearch”,如图所示,然后点击“获取”进行初始化,点击如图按钮,进入插件界面,如图所示:
然后点击如图按钮,选择“添加集群”
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。