概述
本文将简朴先容运维数据说明体系 Elastic Stack,并描写其基本陈设进程。
简介
ELK(Elasticsearch + Logstash + Kibana)用于日记齐集说明体系,Elasticsearch 用于存储、搜刮、说明数据,Logstash 用于吸取并处理赏罚数据,Kibana 提供 Web UI 打点数据,客户端通过 Logstash-Forwarder 将指定的日记数据转达数据给 ELK 体系,概略流程如下图:

其后Elastic 团队收购了 Packetbeat 团队,就成立了 Beat,Beat 是一个轻量级的数据网络平台,可以将差异的数据发送 ELK 体系,譬喻日记、收集数据、体系信息等等。Elastic 团队在定名时最终将 ELK + Beat 定名为 Elastic Stack,并将整个产物线的版本晋升至 5.0。
之前行使 ELK 时,几个产物的版本必要对应,譬喻行使 Elasticsearch 1.6,Logstash 1.5,Kibana 4.1,假如版本没有正确对应,将也许导致无法正常运行。今朝 Elastic 团队已将整体产物线都晋升到 5.0(Kibana 已经到 4 了),这样在陈设体系时免除了劳神版本对应的工作。
Elastic Stack (之后简称 ES)已经不光单用于阐嫡志,Beat 可以署理更多范例的数据输出,Beat 可以直接输出数据至 Elasticsearch,也可输出数据给 Logstash,再由 Logstash 处理赏罚后输出到 Elasticsearch,如下图

今朝宣布的 Beats 产物(Beats 的几个产物均为独立宣布):
- Filebeat:网络日记数据
- Packetbeat:网络收集数据
- Metricbeat:网络体系及处事数据(更换Topbeat)
- Winlogbeat:网络 Windows 变乱
Elastic Stack 中还包括一个以独立产物宣布的插件 X-Pack,集成了监控、报警、报表及图表的成果。X-Pack 相等于一个插件荟萃包,简化了以往安装相干成果插件的进程。同时 X-Pack 还提供了打点(包罗用户和脚色的打点)及监控的 UI 界面。本文的安装设置先不涉及这个插件,往后再独立的文章中来先容。
安装设置 Elastic Stack 5.0
下列描写均以操纵体系?Centos7 为例陈设,涉及处事端和客户端两台处事器,请确保处事端地址处事器内存至少大于 2G。
步调:
- 1 筹备事变
- 2 安装设置 Elasticsearch
- 3 安装设置 Kibana
- 4 安装设置 Filebeat
- 5 安装设置 Logstash (可选)
- 6 安装设置 Nginx (可选)
- 7 单独设置一个客户端
因为 FileBeat 可以直接输出数据给 Elasticsearch,因此前 4 部完成后,ES 体系已经可以运行。Nginx 用于反向署理 Kibana,出产情形中提议设置。
1 筹备事变
1.1 安装 Java 情形
行使 yum 安装?Java:
yum install java-1.8.0-openjdk java.0-openjdk-devel
这里?java-1.8.0-openjdk-devel ?非必需安装,但往后安装插件时也许会必要 Java 的编译器(javac),因此提议提前安装好。
1.2 设置 ES 的 yum 源
导入署名:
配置 yum 源
Elastic Stack 相干产物均必要行使这个源。
1.3 操纵体系设置
官方提供了出产情形下 Elasticsearch 地址操纵体系的相干提议,详见?这里
假造内存配置,编辑?/etc/sysctl.conf ,追加:
修改文件句柄限定,编辑?/etc/security/limits.conf ,追加:
2 安装设置 Elasticsearch
通过 yum 安装
启动 Elasticsearch:
搜查安装,执行
获得相同如下功效,则声名安装正确
Elasticsearch 设置文件在?/etc/elasticsearch/elasticsearch.yml ,假如不行使 Logstash 可能 Logstash 与 Elasticsearch 不在统一处事器,那么必要使 Elasticsearch 监听到指定的 IP 地点和端口,譬喻修改?elasticsearch.yml ?中的下边两行:
如举办如上修改,请确保防火墙封锁或应承端口 9200 通过,可以参考这样配置
3 安装设置 Kibana
Kibana 读音:/ki?bana/
通过 yum 安装
编辑设置文件?/etc/kibana/kibana.yml ,修改下列两行
启动 Kibana:
server.host?默认也是 localhost,行使 nginx 反向署理的话可以不修改,这里现将其修改为监听全部地点的 5601 端口,利便搜查。
请确保防火墙封锁或应承端口 5601 通过,可以参考这样配置
赏识器打开?http://192.168.1.150:5601 (请将 192.168.1.150 换成您处事器的 ip 地点),看到如下界面声名 Kibana 安装正确。

4 安装设置 Filebeat
这里先将 ES 处事器看成一个客户端,陈设 Filebeat 将处事器的日记也输入 Elasticsearch 体系。
通过 yum 安装
Filebeat 默认设置会传输?/var/log/*.log ?(对付 Centos 体系来说,这下边至少会有 yum.log)传输至当地的 Elasticsearch,因此不必要修改任何设置,今朝 ES 体系已经可以网络日记数据了。
启动 Filebeat
此刻在赏识器中打开?http://192.168.1.150:5601 (192.168.1.150 请变动为您处事器的 ip 地点):
将 index name or pattern 配置为?filebeat.* ,点击?create ?按钮,如下图

统统顺遂的话,可以看到 ES 体系已经网络到日记数据了,如下图

5 安装设置 Logstash
通过 yum 安装:
设置 Logstash 的输入和输出,新建输入输出设置文件:
文件内容如下:
输入:配置监听 5044 端口,吸取 beats 的输入数据
输出:将数据输出到 Elasticsearch
启动 Logstash:
之后我们还将陈设另一台处事器作为数据输入的客户端,因此这里请确保防火墙封锁或应承端口 5044 通过,可以参考这样配置
修改 Filebeat 将日记发送给 Logstash
Filebeat 可以将日记输入到 Elasticsearh,如适才的设置。它也可以将日记输入给 Logstash,由 Logstash 处理赏罚日记,再将处理赏罚后的日记数据输入到 Elasticsearch。下边设置 Filebeat 将日记 输入到 Logstash。
编辑 Filebeat 设置文件:
注释掉 Elasticsearch output 的相干配置:
设置输出到 Logstash:
从头启动 Filebeat
这时可以在操纵体系上做一些发生日记的操纵,譬喻行使 yum 安装一个器材
在赏识器中打开?http://192.168.1.150:5601 (改换 192.168.1.150 为您处事器的 ip 地点),就可以看到日记的输入,譬喻在这里我通过 yum 卸载了 screen 这个器材

6 安装设置 Nginx
出产情形下,出于安详及机能的思量,该当行使反向署理来署理 Kibana,这里反向署理器材行使 Nginx。
通过 yum 安装 Nginx,必要设置安装源,可以行使 EPEL 源或 Nginx 的源,这里行使 Nginx 的源为例:
添加 nginx.repo:
插部下列内容:
通过 yum 安装 nginx:
修改 nginx 设置,这里直接修改 default.conf
改为如下内容
启动 Nginx
请确保防火墙封锁或应承端口 80 通过,可以参考这样配置
有了反向署理,就可以将 Kibana 监听到当地端口了。
7 设置另一台处事器作为客户端
作为客户端的处事器只必要安装 Filebeat 即可,拜见之前 1.2 设置 ES 的 yum 源来配置 yum。
通过 yum 安装 Filebeat
设置输出到 Logstash:
留意 Loutput.logstash 中 hosts 必要配置为您 ES 处事器的地点。
同样可以举办一些发生日记的操纵,譬喻 yum 安装一个器材
http://192.168.1.150(改换 192.168.1.150 为您处事器的 ip 地点),就可以看到日记的输入,譬喻在这里我通过 yum 安装了 screen 这个器材,如下图

简朴说一下 Kibana 的操纵,右侧可以选择表现的数据列,如上图选择了 message 和 beat.hostname;右上角是时刻配置,选择的是 15 分钟内的数据,点击可以修改。
总结
本文描写了 Elastic Stack 的安装进程,尽也许的简化了设置进程,目标在于可以快速完成情形的搭建,稀有据输入,这样可以概略相识 ES 体系。在设置的进程中也仅对设置了举办简朴描写,在之后的文章中会从现实成果出发,来举办具体设置、表明以及行使声名。
本文参考 Elstaic Stack 官方文档:https://www.elastic.co/guide/index.html
转自:http://blog.csdn.net/firstar521/article/details/52948093
(编辑:湖南网)
【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!
|