利用 ELK 搭建 Docker 容器化应用日志中心 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
hansonwang99
V2EX    推广

利用 ELK 搭建 Docker 容器化应用日志中心

  •  
  •   hansonwang99 2018-04-03 07:23:58 +08:00 5508 次点击
    这是一个创建于 2798 天前的主题,其中的信息可能已经有所发展或是发生改变。

    封面图片


    概述

    应用一旦容器化以后,需要考虑的就是如何采集位于 Docker 容器中的应用程序的打印日志供运维分析。典型的比如 SpringBoot 应用的日志 收集。本文即将阐述如何利用 ELK 日志中心来收集容器化应用程序所产生的日志,并且可以用可视化的方式对日志进行查询与分析,其架构如下图所示:

    架构图


    镜像准备

    镜像准备

    • ElasticSearch 镜像
    • Logstash 镜像
    • Kibana 镜像
    • Nginx 镜像(作为容器化应用来生产日志)

    开启 Linux 系统 Rsyslog 服务

    修改 Rsyslog 服务配置文件:

    vim /etc/rsyslog.conf 

    开启下面三个参数:

    $ModLoad imtcp $InputTCPServerRun 514 *.* @@localhost:4560 

    开启 3 个参数

    意图很简单:让 Rsyslog 加载 imtcp 模块并监听 514 端口,然后将 Rsyslog 中收集的数据转发到本地 4560 端口!

    然后重启 Rsyslog 服务:

    systemctl restart rsyslog 

    查看 rsyslog 启动状态:

    netstat -tnl 

    netstat -tnl


    部署 ElasticSearch 服务

    docker run -d -p 9200:9200 \ -v ~/elasticsearch/data:/usr/share/elasticsearch/data \ --name elasticsearch elasticsearch 

    ES 启动成功效果


    部署 Logstash 服务

    添加 ~/logstash/logstash.conf 配置文件如下:

    input { syslog { type => "rsyslog" port => 4560 } } output { elasticsearch { hosts => [ "elasticsearch:9200" ] } } 

    配置中我们让 Logstash 从本地的 Rsyslog 服务中取出应用日志数据,然后转发到 ElasticSearch 数据库中!

    配置完成以后,可以通过如下命令来启动 Logstash 容器:

    docker run -d -p 4560:4560 \ -v ~/logstash/logstash.conf:/etc/logstash.conf \ --link elasticsearch:elasticsearch \ --name logstash logstash \ logstash -f /etc/logstash.conf 

    image.png


    部署 Kibana 服务

    docker run -d -p 5601:5601 \ --link elasticsearch:elasticsearch \ -e ELASTICSEARCH_URL=http://elasticsearch:9200 \ --name kibana kibana 

    image.png


    启动 nginx 容器来生产日志

    docker run -d -p 90:80 --log-driver syslog --log-opt \ syslog-address=tcp://localhost:514 \ --log-opt tag="nginx" --name nginx nginx 

    很明显 Docker 容器中的 Nginx 应用日志转发到本地 syslog 服务中,然后由 syslog 服务将数据转给 Logstash 进行收集。

    至此,日志中心搭建完毕,目前一共四个容器在工作:

    image.png

    实验验证

    • 浏览器打开localhost:90来打开 Nginx 界面,并刷新几次,让后台产生 GET 请求的日志

    • 打开 Kibana 可视化界面:localhost:5601

    localhost:5601

    • 收集 Nginx 应用日志

    收集 Nginx 应用日志

    • 查询应用日志

    在查询框中输入program=nginx可查询出特定日志

    查询应用日志


    后记


    CodeSheep

    12 条回复    2018-06-08 11:08:45 +08:00
    raptor
        1
    raptor  
       2018-04-03 08:09:32 +08:00
    我是直接 用 sebp/elk 来搞,省事
    bayker
        2
    bayker  
       2018-04-03 08:25:08 +08:00
    @raptor 上次腾讯云上用 sebp/elk,然后腾讯有一直发短信,说有木马病毒。。
    cqxxxxxxx
        3
    cqxxxxxxx  
       2018-04-03 09:22:15 +08:00 via Android
    马克
    micookie
        4
    micookie  
       2018-04-03 10:33:52 +08:00
    求电脑贴纸链接
    kushao1267
        5
    kushao1267  
       2018-04-03 10:47:04 +08:00 via iPhone
    sebp/elk 或自己配容器都行,看有木有时间吧
    lawmil
        6
    lawmil  
       2018-04-03 10:53:53 +08:00
    mark
    xuelu520
        7
    xuelu520  
       2018-04-03 11:09:01 +08:00
    mark
    htfy96
        8
    htfy96  
       2018-04-03 11:18:57 +08:00
    自己配 ELK 太麻烦了,我选择 logz.io
    xiaoyu9527
        9
    xiaoyu9527  
       2018-04-03 11:28:44 +08:00
    @htfy96 在哪里找这些很好的工具站呀
    PanameraM
        10
    PanameraM  
       2018-04-03 11:51:15 +08:00
    mark
    dlllcs
        11
    dlllcs  
       2018-04-03 13:10:26 +08:00
    mark
    raptor
        12
    raptor  
       2018-06-08 11:08:45 +08:00
    @bayker 我在腾讯云上用这个两年了,没见过这个提示
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     1072 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 25ms UTC 17:36 PVG 01:36 LAX 09:36 JFK 12:36
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86