日志系统


创建人: 剑指云原生      创建于:2021年8月14日 16:58

  • 简介
  • 目录大纲
  • 最新文档

    2-企业日志收集系统-Logstash

    ### 0-Logstash简介 Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索),您可以使用它。说到搜索,logstash带有一个web界面,搜索和展示所有日志。 地址 https://www.elastic.co/guide/en/logstash/current/configuration.html ### 1-Logstash条件判断……

    剑指云原生 - 2022年8月24日 16:27


    1-企业日志收集系统-ElasticSearch

    ### 0-ElasticSearch简介 ElasticSearch是一个基于Lucene的搜索服务器。它提供了一个分布式多用户能力的全文搜索引擎,基于RESTful web接口。Elasticsearch是用Java开发的,并作为Apache许可条款下的开放源码发布,是第二流行的企业搜索引擎。设计用于云计算中,能够达到实时搜索,稳定,可靠,快速,安装使用方便。 在elasticsearch中,……

    剑指云原生 - 2022年8月24日 16:27


    Loki日志系统

    # 1-简介 Loki 是一个受Prometheus启发的水平可扩展、高可用性、多租户日志聚合系统。它的设计非常具有成本效益且易于操作。它不索引日志的内容,而是为每个日志流设置一组标签。 ![](/media//202203/2022-03-08_211239.png) 与其他日志聚合系统相比,Loki: + 不对日志进行全文索引。通过存储压缩的非结构化日志和仅索引元数据,Loki 操作更简单,……

    剑指云原生 - 2022年3月27日 21:59


    Graylog日志系统

    # 1-简介 Graylog 是一个开源的日志聚合、分析、审计、展现和预警工具。在功能上来说,和 ELK 类似,但又比 ELK 要简单很多。依靠着更加简洁,高效,部署使用简单的优势很快受到许多人的青睐。当然,在扩展性上面确实没有ELK好,但是其有商业版本可以选择。 https://docs.graylog.org/docs ![](/media//202112/2021-12-20_151308……

    剑指云原生 - 2021年12月22日 13:04


    ELK日志系统

    剑指云原生 - 2021年12月21日 09:06


    5-企业日志收集系统-引入Filebeat

    ### 0-引入Filebeat架构 ![](/media//202104/2021-04-24_202704.png) ![](/media//202104/2021-04-24_202713.png) 从input读取事件源,经过相应解析和处理之后,从output输出到目标存储库(elasticsearch或其他)。输入可以从Log、Syslog、Stdin、Redis、UDP、Docke……

    剑指云原生 - 2021年8月14日 17:08


    8-企业日志收集系统-引入kafka

    ### 0-对接kafka架构 ![](/media//202104/2021-04-26_185229.png) ### 1-由来 ELK可以使用redis作为消息队列,但redis作为消息队列不是强项而且redis集群不如专业的消息发布系统kafka,以下使用ELK结合kafka作为消息队列进行配置。 官网地址 http://kafka.apache.org ### 2-使用场景 ``` ……

    剑指云原生 - 2021年8月14日 17:04


    7-企业日志收集系统-接入grafana

    ### 1-安装 ``` [root@elk ~]# cat > /etc/yum.repos.d/grafana.repo << OEF [grafana] name=grafana baseurl=https://packages.grafana.com/oss/rpm repo_gpgcheck=1 enabled=1 gpgcheck=1 gpgkey=https://packages.g……

    剑指云原生 - 2021年8月14日 17:04


    6-企业日志收集系统-实战应用

    ### 0-架构 ![](/media//202104/2021-04-25_102622.png) ### 1-部署nginx #### 1.1-yum安装nginx `192.168.10.50` ``` [root@rancher ~]# yum install nginx -y ``` #### 1.2-修改nginx日志格式 `nginx.conf添加在http配置段` ``` ……

    剑指云原生 - 2021年8月14日 17:03


    4-企业日志收集系统-引入redis

    ### 0-引入redis架构 ![](/media//202104/2021-04-24_201744.png) ### 1-架构改善 ``` 1、相比上图,在多台服务器,大量日志情况下可减少对ES压力,队列起到缓冲作用,也可以一定程度保护数据不丢失。(当Logstash接收数据能力超过ES处理能力时,可增加队列均衡网络传输) 2、将收集的日志统一在Indexer中处理。 ``` 如果日志量大可……

    剑指云原生 - 2021年8月14日 17:03


    3-企业日志收集系统-Kibana

    ### 0-Kibana简介 Kibana是一个基于浏览器页面的Elasticsearch前端展示工具。Kibana全部使用HTML语言和Javascript编写的。 ### 1-安装Kibana #### 1.1-添加yum ``` rpm --import https://artifacts.elastic.co/GPG-KEY-elasticsearch cat > /etc/yum.re……

    剑指云原生 - 2021年8月14日 17:03


    0-企业日志收集系统-架构简介(ELK)

    ### 0-elk简介 ELK Stack是软件集合Elasticsearch、Logstash、Kibana的简称,由这三个软件及其相关的组件可以打造大规模日志实时处理系统。 官网 https://www.elastic.co/cn/ 绘图 https://echarts.apache.org/examples/zh/index.html ### 1-elk特点 ``` 扩展性:采用高扩展……

    剑指云原生 - 2021年8月14日 17:02