IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> es集群环境安装 -> 正文阅读

[大数据]es集群环境安装

ES 环境安装流程: 安装注意事项

  1. 1安装ecs环境是否在同一个安全组,不在则添加安全组即可

下载 Elasticsearch

访问 Elasticsearch 官网?https://www.elastic.co/cn/downloads/elasticsearch?下载安装包:

  1. 文件在/opt/下,es版本elasticsearch-6.4.2.tar.gz。文件编辑器软件(unzip-6.0-21.el7.x86_64.rpm,zip-3.0-11.el7.x86_64.rpm),kibana软件(kibana-6.4.2-x86_64.rpm)。修改主机名,增加防火墙,允许指定匹配服务访问es集群
  2. es架构环境地址,kibana只需要安装首台192.168.1.1:

192.168.1.1(mdi)

192.168.1.2(mdi)

192.168.1.3(data)

192.168.1.4(data)

一、分区

    1. 登录192.168.1.1修改主机名,分区挂载,建立目录,加载到启动服务

[root@192.168.1.1 ~] hostnamectl set-hostname ES-1

[root@ES-1 ~] fdisk /dev/vdb 输入n

p

1

回车

回车

W

[root@ES-1 ~] fdisk /dev/vdb && mkfs -t ext4 /dev/vdb1

[root@ES-1 ~]mkdir -p /data

[root@ES-1 ~]mount /dev/vdb1 /data

[root@ES-1 ~]echo '/dev/vdb1 /data ext4 defaults 0 0' >> /etc/fstab

Elasticsearch环境安装

2.1下载相应版本后,登录192.168.1.1后,创建目录,elasticsearch安装解压文件,创建用户组,用户目录,修改es配置文件和系统配置,以及制作启动目录

[root@ES-1 ~] # mkdir -p /data/elasticsearch

[root@ES-1 ~]mkdir -p /data/elasticsearch/esdata/{log,data}

[root@ES-1 ~] # cd /opt/

[root@ES-1 ~] tar -zxvf elasticsearch-6.4.2.tar.gz -C /data/elasticsearch

[root@ES-1 ~] # groupadd esuser

[root@ES-1 ~] # useradd -g esuser -m esuser

2.2安装kibana软件和其他编辑器

[root@ES-1 ~]# rpm -ivh /opt/kibana-6.4.2-x86_64.rpm

[root@ES-1 ~]# rpm -ivh /opt/zip-3.0-11.el7.x86_64.rpm

[root@ES-1 ~]#rpm -ivh /opt/unzip-6.0-21.el7.x86_64.rpm

2.3配置系统参数修改,生效以及配置es配置文件

[root@ES-1 ~]#

Vim /etc/security/limits.conf追加以下参数

esuser soft memlock unlimited

esuser hard memlock unlimited

esuser soft nofile 65536

esuser hard nofile 65536

* soft nofile 65536

* hard nofile 65536

* soft nproc 4096

* hard nproc 4096

root soft nproc 4096

root hard nproc 4096

[root@ES-1 ~]#vim /etc/sysctl.conf追加

vm.max_map_count = 262144

[root@ES-1 ~]vim /etc/sudoers追加

esuser ???ALL=(ALL) ??????ALL

[root@ES-1 ~]sysctl -p

[root@ES-1 ~] vim /data/elasticsearch/elasticsearch-6.4.2/config/elasticsearch.yml追加如下参数

cluster.name: postal ??#集群名

node.name: node    #节点名

network.host: 192.168.1.1   #主机ip

bootstrap.memory_lock: true ?#内存锁开启

http.port: 8080 #端口http8080

http.cors.enabled: true ??

http.cors.allow-origin: "*"

node.master: true ?#规划是mdi所以为true

node.data: true #规划是mdi所以为true

node.ingest: true #规划是mdi所以为true

discovery.zen.ping.unicast.hosts: ["192.168.1.1"] ?#集群节点

discovery.zen.minimum_master_nodes: 1 ??#最小主节点1

path.data: /data/elasticsearch/esdata/data ?#数据目录

path.logs: /data/elasticsearch/esdata/log #日志目录

[root@ES-1 ~] vim /data/elasticsearch/elasticsearch-6.4.2/config/jvm.options 修改Xms1g为Xms8g,改Xmx1g 为Xmx8g

2.4做启动服务,使用默认配置文件启动服务

[root@ES-1 ~]# vim /usr/lib/systemd/system/elasticsearch.service

[Unit]

Description=Elasticsearch Server Manager

Documentation=http://www.elastic.co

Wants=network-online.target

After=network-online.target

[Service]

EnvironmentFile=-/etc/sysconfig/elasticsearch

WorkingDirectory=/data/elasticsearch/elasticsearch-6.4.2

User=esuser

Group=esuser

ExecStart=/data/elasticsearch/elasticsearch-6.4.2/bin/elasticsearch

StandardOutput=journal

StandardError=inherit

# Specifies the maximum file descriptor number that can be opened by this process

LimitNOFILE=65536

# Specifies the maximum number of processes ,min=4096

LimitNPROC=4096

# in elasticsearch.yml and 'MAX_LOCKED_MEMORY=unlimited' in /etc/sysconfig/elasticsearch

LimitMEMLOCK=infinity

# Disable timeout logic and wait until process is stopped

TimeoutStopSec=0

# SIGTERM signal is used to stop the Java process

KillSignal=SIGTERM

# Send the signal only to the JVM rather than its control group

KillMode=process

# Java process is never killed

SendSIGKILL=no

# When a JVM receives a SIGTERM signal it exits with code 143

SuccessExitStatus=143

[Install]

WantedBy=multi-user.target

[root@ES-1 ~]chmod +x /usr/lib/systemd/system/elasticsearch.service

2.5赋予权。设置启动,和启动elasticsearch.确认端口8080是否正常运行,并查看节点为mdi

[root@ES-1 ~]# chown -R esuser /data/elasticsearch/

[root@ES-1 ~]# systemctl enable elasticsearch.service

[root@ES-1 ~]# systemctl start ?elasticsearch.service

[root@ES-1 ~]#netstat -tulpen | grep 8080

2.6浏配置kibana文件,查看端口是否正常

[root@ES-1 ~]#vim /etc/kibana/kibana.yml 追加到

server.port: 9999

server.host: "192.168.1.1"

elasticsearch.url: "http://192.168.1.1:8080"

[root@ES-1 ~]#systemctl restart kibana

[root@ES-1 ~]#netstat -tulpen | grep 9999

2.7开启防火墙加四个节点的策略,没安装kibana的不需要开9999端口

[root@ES-1 ~]#systemctl start firewalld.service

[root@ES-1 ~]#

firewall-cmd --permanent --add-rich-rule="rule family="ipv4" ?source address="192.168.1.1" port ?protocol="tcp" port="8080" accept"

firewall-cmd --permanent --add-rich-rule="rule family="ipv4" ?source address="192.168.1.2" port ?protocol="tcp" port="8080" accept"

firewall-cmd --permanent --add-rich-rule="rule family="ipv4" ?source address="192.168.1.3" port ?protocol="tcp" port="8080" accept"

firewall-cmd --permanent --add-rich-rule="rule family="ipv4" ?source address="192.168.1.4" port ?protocol="tcp" port="8080" accept"

firewall-cmd --permanent --add-rich-rule="rule family="ipv4" ?source address="192.168.1.1" port ?protocol="tcp" port="9300" accept"

firewall-cmd --permanent --add-rich-rule="rule family="ipv4" ?source address="192.168.1.2" port ?protocol="tcp" port="9300" accept"

firewall-cmd --permanent --add-rich-rule="rule family="ipv4" ?source address="192.168.1.3" port ?protocol="tcp" port="9300" accept"

firewall-cmd --permanent --add-rich-rule="rule family="ipv4" ?source address="192.168.1.4" port ?protocol="tcp" port="9300" accept"

firewall-cmd --permanent --add-rich-rule="rule family="ipv4" ?source address="需要访问kibana的网段"?port protocol="tcp" port="9999" accept"

?[root@ES-1 ~]#firewall-cmd --reload&&?firewall-cmd --list-all

192.168.1.2ES环境安装

3.1在远程linux1192.168.1.2(mdi)节点主机安装ES,操作如上(二)步骤。注意修改ES配置,不需要安装kibana

[root@192.168.1.2?~]# vim /data/elasticsearch/elasticsearch-6.4.2/config/elasticsearch.yml追加如下参数

cluster.name: postal ??#集群名

node.name: node    #节点名

network.host: 192.168.1.2   #主机ip

bootstrap.memory_lock: true ?#内存锁开启

http.port: 8080#端口http8080

http.cors.enabled: true ??

http.cors.allow-origin: "*"

node.master: true ?#规划是mdi所以为true

node.data: true #规划是mdi所以为true

node.ingest: true #规划是mdi所以为true

discovery.zen.ping.unicast.hosts: ["192.168.1.1"] ?#集群节点

discovery.zen.minimum_master_nodes: 1 ??#最小主节点1

path.data: /data/elasticsearch/esdata/data ?#数据目录

path.logs: /data/elasticsearch/esdata/log #日志目录

192.168.1.3(data)ES环境安装

4.1操作如二步骤,不需要安装kibana修改一下配置文件

[root@ES-1 ~] vim /data/elasticsearch/elasticsearch-6.4.2/config/elasticsearch.yml追加如下参数

cluster.name: postal ??#集群名

node.name: node    #节点名

network.host: 192.168.1.3   #主机ip

bootstrap.memory_lock: true ?#内存锁开启

http.port: 8080 #端口http8080

http.cors.enabled: true ??

http.cors.allow-origin: "*"

node.master: false#规划是mdi所以为true

node.data: true #规划是mdi所以为true

node.ingest: false #规划是mdi所以为true

discovery.zen.ping.unicast.hosts: ["192.168.1.1"] ?#集群节点

discovery.zen.minimum_master_nodes: 1 ??#最小主节点1

path.data: /data/elasticsearch/esdata/data ?#数据目录

path.logs: /data/elasticsearch/esdata/log #日志目录

[root@ES-1 ~] vim /data/elasticsearch/elasticsearch-6.4.2/config/jvm.options 修改Xms1g为Xms8g,改Xmx1g 为Xmx8g

4.2192.168.1.4上登录安装es数据节点,操作如二,不需要安装kibana.修改配置文件如下,节点查看,防火墙查看。

[root@server~]# [root@ES-1 ~] vim /data/elasticsearch/elasticsearch-6.4.2/config/elasticsearch.yml追加如下参数

cluster.name: postal ??#集群名

node.name: node    #节点名

network.host: 192.168.1.4   #主机ip

bootstrap.memory_lock: true ?#内存锁开启

http.port: 8080 #端口http8080

http.cors.enabled: true ??

http.cors.allow-origin: "*"

node.master: false#规划是mdi所以为true

node.data: true #规划是mdi所以为true

node.ingest: false #规划是mdi所以为true

discovery.zen.ping.unicast.hosts: ["192.168.1.1"] ?#集群节点

discovery.zen.minimum_master_nodes: 1 ??#最小主节点1

path.data: /data/elasticsearch/esdata/data ?#数据目录

path.logs: /data/elasticsearch/esdata/log #日志目录

[root@ES-1 ~] vim /data/elasticsearch/elasticsearch-6.4.2/config/jvm.options 修改Xms1g为Xms8g,改Xmx1g 为Xmx8g

  • 创建索引数据

5.1登录192.168.1.1查看节点状态

[root@ES-1 ~] curl 192.168.1.1:8080/_cat/nodes

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-07-28 00:16:32  更:2021-07-28 00:17:01 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年5日历 -2024/5/20 23:26:15-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码