加入收藏 | 设为首页 | 会员中心 | 我要投稿 湖南网 (https://www.hunanwang.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 大数据 > 正文

Elastic Stack (ELK 5)- 运维数据说明体系

发布时间:2021-01-10 12:42:38 所属栏目:大数据 来源:网络整理
导读:概述 本文将简朴先容运维数据说明体系 Elastic Stack,并描写其基本陈设进程。 简介 ELK(Elasticsearch + Logstash + Kibana)用于日记齐集说明体系,Elasticsearch 用于存储、搜刮、说明数据,Logstash 用于吸取并处理赏罚数据,Kibana 提供 Web UI 打点数据,

概述

本文将简朴先容运维数据说明体系 Elastic Stack,并描写其基本陈设进程。

简介

ELK(Elasticsearch + Logstash + Kibana)用于日记齐集说明体系,Elasticsearch 用于存储、搜刮、说明数据,Logstash 用于吸取并处理赏罚数据,Kibana 提供 Web UI 打点数据,客户端通过 Logstash-Forwarder 将指定的日记数据转达数据给 ELK 体系,概略流程如下图:

ELK 体系布局

其后Elastic 团队收购了 Packetbeat 团队,就成立了 Beat,Beat 是一个轻量级的数据网络平台,可以将差异的数据发送 ELK 体系,譬喻日记、收集数据、体系信息等等。Elastic 团队在定名时最终将 ELK + Beat 定名为 Elastic Stack,并将整个产物线的版本晋升至 5.0。

之前行使 ELK 时,几个产物的版本必要对应,譬喻行使 Elasticsearch 1.6,Logstash 1.5,Kibana 4.1,假如版本没有正确对应,将也许导致无法正常运行。今朝 Elastic 团队已将整体产物线都晋升到 5.0(Kibana 已经到 4 了),这样在陈设体系时免除了劳神版本对应的工作。

Elastic Stack (之后简称 ES)已经不光单用于阐嫡志,Beat 可以署理更多范例的数据输出,Beat 可以直接输出数据至 Elasticsearch,也可输出数据给 Logstash,再由 Logstash 处理赏罚后输出到 Elasticsearch,如下图

Elastic Stack 布局图

今朝宣布的 Beats 产物(Beats 的几个产物均为独立宣布):

  • Filebeat:网络日记数据
  • Packetbeat:网络收集数据
  • Metricbeat:网络体系及处事数据(更换Topbeat)
  • Winlogbeat:网络 Windows 变乱

Elastic Stack 中还包括一个以独立产物宣布的插件 X-Pack,集成了监控、报警、报表及图表的成果。X-Pack 相等于一个插件荟萃包,简化了以往安装相干成果插件的进程。同时 X-Pack 还提供了打点(包罗用户和脚色的打点)及监控的 UI 界面。本文的安装设置先不涉及这个插件,往后再独立的文章中来先容。

安装设置 Elastic Stack 5.0

下列描写均以操纵体系?Centos7 为例陈设,涉及处事端和客户端两台处事器,请确保处事端地址处事器内存至少大于 2G。

步调:

  • 1 筹备事变
  • 2 安装设置 Elasticsearch
  • 3 安装设置 Kibana
  • 4 安装设置 Filebeat
  • 5 安装设置 Logstash (可选)
  • 6 安装设置 Nginx (可选)
  • 7 单独设置一个客户端

因为 FileBeat 可以直接输出数据给 Elasticsearch,因此前 4 部完成后,ES 体系已经可以运行。Nginx 用于反向署理 Kibana,出产情形中提议设置。

1 筹备事变

1.1 安装 Java 情形

行使 yum 安装?Java:

 
 
  • 1
  • 1
yum install java-1.8.0-openjdk java.0-openjdk-devel

这里?java-1.8.0-openjdk-devel?非必需安装,但往后安装插件时也许会必要 Java 的编译器(javac),因此提议提前安装好。

1.2 设置 ES 的 yum 源

导入署名:

 配置 yum 源

 Elastic Stack 相干产物均必要行使这个源。

1.3 操纵体系设置

官方提供了出产情形下 Elasticsearch 地址操纵体系的相干提议,详见?这里

假造内存配置,编辑?/etc/sysctl.conf,追加:

 修改文件句柄限定,编辑?/etc/security/limits.conf,追加:

 2 安装设置 Elasticsearch 

通过 yum 安装

 启动 Elasticsearch:

 搜查安装,执行

 获得相同如下功效,则声名安装正确

 Elasticsearch 设置文件在?/etc/elasticsearch/elasticsearch.yml,假如不行使 Logstash 可能 Logstash 与 Elasticsearch 不在统一处事器,那么必要使 Elasticsearch 监听到指定的 IP 地点和端口,譬喻修改?elasticsearch.yml?中的下边两行:

 如举办如上修改,请确保防火墙封锁或应承端口 9200 通过,可以参考这样配置

 3 安装设置 Kibana 

Kibana 读音:/ki?bana/

通过 yum 安装

 编辑设置文件?/etc/kibana/kibana.yml,修改下列两行

 启动 Kibana:

server.host?默认也是 localhost,行使 nginx 反向署理的话可以不修改,这里现将其修改为监听全部地点的 5601 端口,利便搜查。

请确保防火墙封锁或应承端口 5601 通过,可以参考这样配置

 赏识器打开?http://192.168.1.150:5601(请将 192.168.1.150 换成您处事器的 ip 地点),看到如下界面声名 Kibana 安装正确。

ELK UI

4 安装设置 Filebeat

这里先将 ES 处事器看成一个客户端,陈设 Filebeat 将处事器的日记也输入 Elasticsearch 体系。

通过 yum 安装

 Filebeat 默认设置会传输?/var/log/*.log?(对付 Centos 体系来说,这下边至少会有 yum.log)传输至当地的 Elasticsearch,因此不必要修改任何设置,今朝 ES 体系已经可以网络日记数据了。

启动 Filebeat

 此刻在赏识器中打开?http://192.168.1.150:5601(192.168.1.150 请变动为您处事器的 ip 地点):

将 index name or pattern 配置为?filebeat.*,点击?create?按钮,如下图

配置index-pattern

统统顺遂的话,可以看到 ES 体系已经网络到日记数据了,如下图

ES 体系数据

5 安装设置 Logstash

通过 yum 安装:

 设置 Logstash 的输入和输出,新建输入输出设置文件:

 文件内容如下:

  • 输入:配置监听 5044 端口,吸取 beats 的输入数据
  • 输出:将数据输出到 Elasticsearch
  • 启动 Logstash:

     之后我们还将陈设另一台处事器作为数据输入的客户端,因此这里请确保防火墙封锁或应承端口 5044 通过,可以参考这样配置

     修改 Filebeat 将日记发送给 Logstash 
    

    Filebeat 可以将日记输入到 Elasticsearh,如适才的设置。它也可以将日记输入给 Logstash,由 Logstash 处理赏罚日记,再将处理赏罚后的日记数据输入到 Elasticsearch。下边设置 Filebeat 将日记 输入到 Logstash。

    编辑 Filebeat 设置文件:

     注释掉 Elasticsearch output 的相干配置:

     设置输出到 Logstash:

     从头启动 Filebeat

     这时可以在操纵体系上做一些发生日记的操纵,譬喻行使 yum 安装一个器材

    在赏识器中打开?http://192.168.1.150:5601(改换 192.168.1.150 为您处事器的 ip 地点),就可以看到日记的输入,譬喻在这里我通过 yum 卸载了 screen 这个器材

    ES 体系示例图

    6 安装设置 Nginx

    出产情形下,出于安详及机能的思量,该当行使反向署理来署理 Kibana,这里反向署理器材行使 Nginx。

    通过 yum 安装 Nginx,必要设置安装源,可以行使 EPEL 源或 Nginx 的源,这里行使 Nginx 的源为例:

    添加 nginx.repo:

     插部下列内容:

     通过 yum 安装 nginx:

     修改 nginx 设置,这里直接修改 default.conf

     改为如下内容

     启动 Nginx

     请确保防火墙封锁或应承端口 80 通过,可以参考这样配置

     有了反向署理,就可以将 Kibana 监听到当地端口了。

    7 设置另一台处事器作为客户端

    作为客户端的处事器只必要安装 Filebeat 即可,拜见之前 1.2 设置 ES 的 yum 源来配置 yum。

    通过 yum 安装 Filebeat

     设置输出到 Logstash:

     
     

    留意 Loutput.logstash 中 hosts 必要配置为您 ES 处事器的地点。

    同样可以举办一些发生日记的操纵,譬喻 yum 安装一个器材

    http://192.168.1.150(改换 192.168.1.150 为您处事器的 ip 地点),就可以看到日记的输入,譬喻在这里我通过 yum 安装了 screen 这个器材,如下图

    ES 体系示例图

    简朴说一下 Kibana 的操纵,右侧可以选择表现的数据列,如上图选择了 message 和 beat.hostname;右上角是时刻配置,选择的是 15 分钟内的数据,点击可以修改。

    总结

    本文描写了 Elastic Stack 的安装进程,尽也许的简化了设置进程,目标在于可以快速完成情形的搭建,稀有据输入,这样可以概略相识 ES 体系。在设置的进程中也仅对设置了举办简朴描写,在之后的文章中会从现实成果出发,来举办具体设置、表明以及行使声名。

    本文参考 Elstaic Stack 官方文档:https://www.elastic.co/guide/index.html

    转自:http://blog.csdn.net/firstar521/article/details/52948093

    (编辑:湖南网)

    【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

      热点阅读