ELKStack实战之Elasticsearch [ 一 ]

栏目: 后端 · 发布时间: 6年前

内容简介:ELKStack实战之Elasticsearch [ 一 ]

ELK StackElasticsearchLogstashKibana 三个开源软件的组合。在实时数据检索和分析场合,三者通常是配合共用,而且又都先后归于 Elastic.co 公司名下,故有此简称。

ELK Stack 在最近两年迅速崛起,成为机器数据分析,或者说实时日志处理领域,开源界的第一选择。和传统的日志处理方案相比, ELK Stack 具有如下几个优点:

  • 处理方式灵活。Elasticsearch 是实时全文索引,不需要像 storm 那样预先编程才能使用;
  • 配置简易上手。Elasticsearch 全部采用 JSON 接口,Logstash 是 Ruby DSL 设计,都是目前业界最通用的配置语法设计;
  • 检索性能高效。虽然每次查询都是实时计算,但是优秀的设计和实现基本可以达到全天数据查询的秒级响应;
  • 集群线性扩展。不管是 Elasticsearch 集群还是 Logstash 集群都是可以线性扩展的;
  • 前端操作炫丽。Kibana 界面上,只需要点击鼠标,就可以完成搜索、聚合功能,生成炫丽的仪表板

ELK 地址: https://www.elastic.co/

Logstash 最佳实践: http://udn.yyuap.com/doc/logstash-best-practice-cn/index.html

Elasticsearch 权威指南: http://www.learnes.net/index.html

ELKStack 中文社区: https://kibana.logstash.es/content/

Elasticsearch部署

Elasticsearch 首先需要 Java 环境 ,所以需要提前安装好 JDK ,可以直接使用 yum 安装。也可以从 Oracle 官网下载 JDK 进行安装。开始之前要确保 JDK 正常安装并且环境变量也配置正确

安装JDK

$ yum install -y java

安装ElasticSearch

// 下载并安装GPG key
$ rpm --import https://packages.elastic.co/GPG-KEY-elasticsearch

// 添加yum仓库
$ cat /etc/yum.repos.d/elasticsearch.repo
[elasticsearch-2.x]
name=Elasticsearch repository for 2.x packages
baseurl=http://packages.elastic.co/elasticsearch/2.x/centos
gpgcheck=1
gpgkey=http://packages.elastic.co/GPG-KEY-elasticsearch
enabled=1

// 安装elasticsearch
$ yum install -y elasticsearch

配置elasticsearch

$ vim /etc/elasticsearch/elasticsearch.yml
cluster.name: myes             #ES集群名称
node.name: carey-node-1   #节点名称
path.data: /data/es-data      #数据存储的目录(多个目录使用逗号分隔)
path.logs: /var/log/elasticsearch #日志格式
bootstrap.memory_lock: true   #锁住es内存,保证内存不分配至交换分区
network.host: 192.168.56.101   #设置本机IP地址
http.port: 9200            #端口默认9200

设置数据目录权限

$ mkdir -p /data/es-data
$ chown -R elasticsearch:elasticsearch /data/es-data/

启动

$ systemctl start elasticsearch.service
$ netstat -anpt
tcp6       0      0 127.0.0.1:9200          :::*                    LISTEN      32490/java
tcp6       0      0 127.0.0.1:9300          :::*                    LISTEN      32490/java

访问测试

访问地址: 192.168.56.101:9200

ELKStack实战之Elasticsearch [ 一 ]

Elasticsearch插件介绍

Haed插件

插件作用:主要是做 es 集群管理的插件

Github 下载地址: https://github.com/mobz/elasticsearch-head

//安装head
$ /usr/share/elasticsearch/bin/plugin install mobz/elasticsearch-head
-> Installing mobz/elasticsearch-head...
Trying https://github.com/mobz/elasticsearch-head/archive/master.zip ...
Downloading ...............DONE
Verifying https://github.com/mobz/elasticsearch-head/archive/master.zip checksums if available ...
NOTE: Unable to verify checksum for downloaded plugin (unable to find .sha1 or .md5 file to verify)
Installed head into /usr/share/elasticsearch/plugins/head

访问地址: http://192.168.56.101:9200/_plugin/head/

这里看到域名是因为我服务器在家里,通过 frp 内网穿透出来的必须通过域名去访问,这个地址可以忽略。

ELKStack实战之Elasticsearch [ 一 ]

Kopf插件

插件作用: kopf 是一个简单的网络管理工具

Kopf 不再维护。已经开发了替代品 cerebro ,目前维护在 https://github.com/lmenezes/cerebro 。在这一点上, cerebro 应该有相当于 kopf 的功能,顶部有一些新的功能。

Github 地址: https://github.com/lmenezes/elasticsearch-kopf

//安装kopf
$ /usr/share/elasticsearch/bin/plugin install lmenezes/elasticsearch-kopf
-> Installing lmenezes/elasticsearch-kopf...
Trying https://github.com/lmenezes/elasticsearch-kopf/archive/master.zip ...
Downloading ..................DONE
Verifying https://github.com/lmenezes/elasticsearch-kopf/archive/master.zip checksums if available ...
NOTE: Unable to verify checksum for downloaded plugin (unable to find .sha1 or .md5 file to verify)
Installed kopf into /usr/share/elasticsearch/plugins/kopf

访问地址: http://192.168.56.101:9200/_plugin/kopf/

ELKStack实战之Elasticsearch [ 一 ]


以上所述就是小编给大家介绍的《ELKStack实战之Elasticsearch [ 一 ]》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

PHP程序设计

PHP程序设计

Kevin Tatroe、Rasmus Lerdorf / 邓云佳 / 中国电力出版社 / 2003-7-1 / 68.00

本书涵盖了创建一个高效PHP Web应用程序所需要的所有技术,其内容包括:PHP语言基础的详细信息,包括数据类型、变量、操作符和流控制语句。用专门章节讨论关于函数、字符串、数组和对象的基本内容。涵盖通用的PHP Web应用程序设计技术,如表单处理和验证、会话跟踪以及cookie。用和数据库无关的PEAR DB库与关系数据库(如MySQL和Oracle)进行交互的内容。介绍用PHP生成动态图像、创建一起来看看 《PHP程序设计》 这本书的介绍吧!

JSON 在线解析
JSON 在线解析

在线 JSON 格式化工具

MD5 加密
MD5 加密

MD5 加密工具

RGB HSV 转换
RGB HSV 转换

RGB HSV 互转工具