docker有什么用,docker 日志_Filebeat 采集 Docker 日志

 2023-09-25 阅读 24 评论 0

摘要:由于容器的特性,在容器重新创建后日志会废弃掉,如何通过持久化和中心化的处理容器日志变成一个棘手的问题,如何通过 Elastic Stack 进行一站式的数据采集,数据清洗,数据落地,数据可视化,让数据发挥真正的价值呢?架构

e81f434b90149683f2dfed4b54d6ebbf.png
由于容器的特性,在容器重新创建后日志会废弃掉,如何通过持久化和中心化的处理容器日志变成一个棘手的问题,如何通过 Elastic Stack 进行一站式的数据采集,数据清洗,数据落地,数据可视化,让数据发挥真正的价值呢?

架构设计

涉及到 Elastic Stack 中 Filebeat 是用于采集 Docker 相关的日志, Elasticsearch 是用于对于数据落地存储和搜索的引擎, Kibana 是用于对数据可视化的工具。

在 Docker 中容器的日志是存储在/var/lib/docker/containers/ 目录下的,目录下的每一个文件夹为容器ID,容器ID目录下的 log 类型文件则为容器的日志文件。

9e5e8a447fb453ef420b28b61f1a1c18.png

实施方法

以 Docker 环境下为例

docker有什么用、Filebeat

启动 Filebeat 容器,并且将存储卷映射到数据目录docker run -d --name filebeat --user=root -v /var/lib/docker/containers:/var/lib/docker/containers elastic/filebeat:7.9.2

进入容器修改配置docker exec -it filebeat /bin/bash

修改配置,添加 Elasticsearch 和 Kibana 的主机vi filebeat.yml

filebeat.config:modules:path: ${path.config}/modules.d/*.ymlreload.enabled: falseprocessors:- add_cloud_metadata: ~- add_docker_metadata: ~filebeat.inputs:- type: dockercontainers:path: "/var/lib/docker/containers"json.keys_under_root: trueids:- "*"output.elasticsearch:hosts: 'elasticsearch:9200'username: "elastic"password: "xxx"
setup.kibana:host: "kibana:5601"

设置 Filebeat 创建 Kibana上的 Index Pattern 和 Dashboardfilebeat setup

重启 Filebeat 生效配置docker restart filebeat

可视化展示

查看docker容器日志、通过 Kibana 中的 Discover 功能

7a8b5d9d9156d407e398007ec373ecd7.png

版权声明:本站所有资料均为网友推荐收集整理而来,仅供学习和研究交流使用。

原文链接:https://hbdhgg.com/1/94316.html

发表评论:

本站为非赢利网站,部分文章来源或改编自互联网及其他公众平台,主要目的在于分享信息,版权归原作者所有,内容仅供读者参考,如有侵权请联系我们删除!

Copyright © 2022 匯編語言學習筆記 Inc. 保留所有权利。

底部版权信息