Spring Boot + ELK进行日志收集,看此文即够

本文介绍SpringBoot应用配合ELK进行日志收集。

1.有关ELK

1.1 简介


这里在对ELK做一下简述,ELK是有Elastic公司的三个组件配合进行日志收集,分别是:

  • ElasticSearch:用于存储日志信息。
  • Logstash:用于收集、处理和转发日志信息。
  • Kibana:提供可搜索的Web可视化界面。

当然,现在很多都配合着Beats进行使用,这里不做过多描述,感兴趣的可以查看官网,https://www.elastic.co/cn/products/beats,这里有很多对Beats的描述。

1.2 安装

有关ELK安装笔者之前都写过关于Linux环境下的安装,如下:

1、ElasticSearch 安装

2、Elastic Search Head插件的安装

3、Logstash Windows下的安装

4、Kibana 在Windows下的安装

    其他环境安装方式类似,基本上都是下载压缩包解压这一套流程。

    2.SpringBoot日志输出到Logstash

    这里以logback日志为例,新建项目,在项目中加入logstash-logback-encoder依赖,完整pom如代码清单所示。


    xml version="1.0" encoding="UTF-8"?>
    <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
    xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0modelVersion>
    <parent>
    <groupId>org.springframework.bootgroupId>
    <artifactId>spring-boot-starter-parentartifactId>
    <version>2.1.2.RELEASEversion>
    <relativePath/>
    parent>
    <groupId>com.dalaoyanggroupId>
    <artifactId>springboot_logstashartifactId>
    <version>0.0.1-SNAPSHOTversion>
    <name>springboot_logstashname>
    <description>springboot_logstashdescription>

    <properties>
    <java.version>1.8java.version>
    properties>

    <dependencies>
    <dependency>
    <groupId>org.springframework.bootgroupId>
    <artifactId>spring-boot-starter-webartifactId>
    dependency>

    <dependency>
    <groupId>org.springframework.bootgroupId>
    <artifactId>spring-boot-devtoolsartifactId>
    <scope>runtimescope>
    dependency>
    <dependency>
    <groupId>org.springframework.bootgroupId>
    <artifactId>spring-boot-starter-testartifactId>
    <scope>testscope>
    dependency>
    <dependency>
    <groupId>net.logstash.logbackgroupId>
    <artifactId>logstash-logback-encoderartifactId>
    <version>5.3version>
    dependency>

    dependencies>


    <build>
    <plugins>
    <plugin>
    <groupId>org.springframework.bootgroupId>
    <artifactId>spring-boot-maven-pluginartifactId>
    plugin>
    plugins>
    build>

    project>


    接下来新建一个logback-spring.xml文件,配置logback日志信息,注意这里配置的destination属性,输出的要和logstash配置的对应上,不然收集不上,内容如下:

    xml version="1.0" encoding="UTF-8"?>
    <configuration>
    <include resource="org/springframework/boot/logging/logback/base.xml" />

    <appender name="LOGSTASH" class="net.logstash.logback.appender.LogstashTcpSocketAppender">
    <destination>127.0.0.1:4560destination>

    <encoder charset="UTF-8"
    class="net.logstash.logback.encoder.LoggingEventCompositeJsonEncoder">
    <providers>
    <timestamp>
    <timeZone>UTCtimeZone>
    timestamp>
    <pattern>
    <pattern>
    {
    "logLevel": "%level",
    "serviceName": "${springAppName:-}",
    "pid": "${PID:-}",
    "thread": "%thread",
    "class": "%logger{40}",
    "rest": "%message"
    }
    pattern>
    pattern>
    providers>
    encoder>
    appender>

    <root level="INFO">
    <appender-ref ref="LOGSTASH" />
    <appender-ref ref="CONSOLE" />
    root>


    configuration>

    修改启动类,加入一个mvc方法,主要用于输出日志,如下所示。

    package com.dalaoyang;
    
    import org.slf4j.Logger;
    import org.slf4j.LoggerFactory;
    import org.springframework.boot.SpringApplication;
    import org.springframework.boot.autoconfigure.SpringBootApplication;
    import org.springframework.web.bind.annotation.GetMapping;
    import org.springframework.web.bind.annotation.RestController;
    
    @SpringBootApplication
    @RestController
    public class SpringbootLogstashApplication {
    
        Logger logger = LoggerFactory.getLogger(SpringbootLogstashApplication.class);
    
        @GetMapping("test")
        public void test(){
            logger.info("Spring Boot, ELK日志收集测试");
        }
    
        public static void main(String[] args) {
            SpringApplication.run(SpringbootLogstashApplication.class, args);
        }
    
    }
    

    3.Logstash配置

    logstash配置如下,再次提醒一下,输入要与刚刚配置的对应上,输出为本地es:

    input {
      tcp {
        mode => "server"
        host => "0.0.0.0"
        port => 4560
        codec => json_lines
      }
    }
    output {
      elasticsearch {
        hosts => "localhost:9200"
        index => "trace_test_log-%{+YYYY.MM.dd}"
      }
    }


    浏览器上输入“http://localhost:8080/test”,生成日志后,

    43.jpg


    先在ElasticSearch Head上查看是否把日志存放到了ElasticSearch中

    38.png



    4.测试


    打开kibana管理页面,添加刚刚创建的索引,如图所示。

    40.png


    然后进入发现页,选择刚刚的索引,如下所示。

    41.png


    5.源码

    源码地址:https://github.com/xianzehua/SpringBoot/tree/master/springboot_logstash


    • 微信
    • 赶快加我聊天吧
    • 博客交流群
    • 海纳百川,大家来水
    • weinxin
    • A+
    所属分类:
    Sam

    发表评论 取消回复

      • avatar 的士速递

        555555555555555555555555555555555

        • avatar www.tgz.com

          你不用专门跑到游戏厅里面去玩,你只要登陆一个下载网(www.tgz.com 手机软件下载),就可以认识这些当时在游戏厅里面给你出主意的玩家。在这个里面它有不同的难度关卡,如果你是大神级的玩家,你可以进入困难级别的关卡里面,通过这个关卡,你就可以认识很多跟你同等级的玩家,在这个游戏里面你们肯定会有更多可以聊的话题。而如果你是小白玩家,那也不用担心,这里也有入门级的关卡,通过这个游戏平台,你自然也可以认识跟你一起刚开始玩游戏的朋友,通过这个平台你们互相认识,也不用担心别人看不起自己,可以尽情的玩游戏。