云原生时代的可观测系统最佳实战 pdf下载

1.从原理到实践的可观测性系统整体解决方案

2.基于大规模线上环境的可观测性系统构建经验

3.丰富的业务实战案例，帮助打造真实的可观测性系统

在云原生时代，可观测性覆盖了应用的全生命周期，是云原生应用必备的工具之一。 本书基于笔者多年的云原生可观测性实践经验，从可观测系统的演进和基础理论开始介绍，结合案例对可观测系统的开源架构、日志、链路、监控、事件和诊断等关键要素的系统设计方案及问题解决思路进行阐述，帮助读者了解在业务实践中可观测性对云原生应用有哪些巨大助力。 本书适合云原生应用开发人员、架构师、运维人员、测试人员，以及云计算相关从业人员阅读。

罗梦婷，毕业于广东海洋大学电子信息工程专业，先后任职于九联、华润、腾讯等大型企业，参与腾讯云微服务平台的核心研发工作，担任可观测系统技术负责人，在云原生、物联网及AI等技术领域具有成熟的架构设计经验，先后主导过多个大型产业数字化项目的落地。

蒲实，毕业于复旦大学软件学院，目前就职于腾讯，负责腾讯云微服务平台TSF可观测性相关产品功能的研发，在可观测性、微服务等技术领域具有丰富的实战经验，致力于打造高稳定性、高可用性的云原生可观测性产品。

本书作者一直在腾讯云从事可观测性相关工作，有着丰富的项目实战经验。本书比较系统地讲解了云原生时代下可观测系统的实战，手把手教你入门，值得一读。

罗茂政

腾讯云中间件技术负责人

本书由浅入深，从概念到实践都有非常完整的介绍，并且涵盖了可观测性技术的各个领域，相信领域内的各个“角色”都可以从中获得启发。

刘智新

腾讯专家工程师、腾讯云微服务平台技术负责人

非常高兴能看到这样一本技术指南，从可观测性技术的发展历程出发，详细呈现了可观测系统的架构设计，先介绍如何使用Profile去定位和诊断复杂问题，再介绍业界比较前沿的DevOps和AIOps技术实战，由浅入深，从横向到纵向完整描述可观测性技术的全貌，并提供实战经验。

韩欣

OPPO互联网服务首席架构师、腾讯云前中间件技术总监

第1章 可观测性概述 1
1．1　可观测系统的演进 1
1．1．1 系统架构的演进 1
1．1．2 可观测性和监控的关系 6
1．1．3 可观测性技术的现状 13
1．2　可观测性数据 20
1．2．1 可观测性数据的类型 20
1．2．2 实战场景下运维人员观测的数据 24
1．2．3 实战场景下研发人员观测的数据 27
1．3　可观测性技术的价值 29
1．3．1 发现系统故障 30
1．3．2 预测系统故障和容量 31
1．3．3 提供事故分析报告 33
1．3．4 预测变更的影响 35
第2章 系统架构 38
2．1　架构设计的基本原则 38
2．1．1 统一的数据语义 39
2．1．2 统一的数据处理平台 46
2．1．3 统一的可视化系统 48
2．2　平台基础架构设计实战 53
2．2．1 实战一：基于开源Grafana+Prometheus+Tempo+Loki的解决方案 53
2．2．2 实战二：基于开源Elastic Stack的解决方案 71
2．2．3 实战三：开源架构优化之解决大规模数据计算问题 81
第3章 日志系统实战 91
3．1　日志模型的设计 91
3．2　日志系统的选型实战 95
3．2．1 全文检索的首选：Elasticsearch实战 95
3．2．2 新生代列式存储：ClickHouse实战 101
3．3　Elasticsearch调优实战指南 104
3．3．1 实战一：Elasticsearch索引模块及配置Index、Shard、Segment 105
3．3．2 实战二：合理使用Elasticsearch数据字段，配置pipeline和mapping 113
3．3．3 实战三：在大规模系统中选择字段存储方式 121
3．3．4 实战四：PB级别数据量场景下的Elasticsearch调优 126
3．3．5 实战五：降本增效，预测Elasticsearch集群的规模并控制成本 130
第4章 链路追踪系统实战 135
4．1　设计链路追踪模型 135
4．1．1 链路追踪的发展历程 135
4．1．2 Span语义规范 138
4．2　系统选型实战 141
4．2．1 OpenTelemetry调用链实战 141
4．2．2 Spring Cloud Sleuth实战 157
4．2．3 Istio实战 169
4．2．4 Filebeat采集方案实战 172
4．2．5 Elasticsearch存储实战 176
4．3　链路追踪系统实战场景 181
4．3．1 实战一：头采、尾采、单元采样的区别与技术难点 181
4．3．2 实战二：在万亿级调用量下应如何自适应采样 185
4．3．3 实战三：陈旧系统如何接入全链路追踪系统 188
第5章 指标系统实战 193
5．1 指标采集模型的设计 193
5．1．1 指标数据的分类 193
5．1．2 指标数据的语义规范 197
5．2 系统选型实战 200
5．2．1 OpenTelemetry指标监控实战 200
5．2．2 Spring Boot Actuator监控实战 216
5．2．3 自研指标监控实战 226
5．2．4 内核监控之eBPF实战 231
5．3 指标系统实战场景 238
5．3．1 实战一：如何保证海量数据上报的实时性和完整性 238
5．3．2 实战二：当陷入告警风暴时应该如何实现告警降噪 240
5．3．3 实战三：使用Filebeat采集指标数据，如何在服务端去重 244
第6章 事件中心实战 251
6．1 事件中心的设计 251
6．1．1 事件驱动架构概述 251
6．1．2 事件模型的设计 254
6．1．3 事件中心的设计及实战 256
6．2 高可用事件中心实战 258
第7章 Profile诊断实战 261
7．1　线上分析工具 261
7．1．1 JDK原生工具 261
7．1．2 Java线上诊断工具 266
7．1．3 网络请求分析工具Wireshark 272
7．2　线上问题实时分析实战 275
7．2．1 实战一：当线上业务内存溢出时如何定位 276
7．2．2 实战二：当线上业务CPU的使用率较高时如何定位 281
7．2．3 实战三：当线上业务I/O异常时如何定位 283
7．2．4 实战四：当接口请求响应变慢时应如何定位 285
7．3　线上问题处理流程实战 286
第8章 可观测性的探索 289
8．1　DevOps与可观测性 289
8．1．1 服务依赖关系 289
8．1．2 了解新版本的变化 293
8．1．3 全链路压力测试不可或缺的可观测性 296
8．1．4 利用混沌工程及时发现问题 298
8．2　AIOps与可观测性 302
8．2．1 如何选择合适的数据和算法 303
8．2．2 企业级场景下AIOps落地的难点与经验 306

前　言

“可观测性”是一个新名词，但它的前身“监控”是计算机从业人员耳熟能详的名词。

那么，脱胎于“监控”的“可观测性”带来了哪些新技术呢？

在云原生时代，微服务架构与容器技术占据了业务头条，可观测性是如何将各个系统分裂的日志、指标等集为一体的呢？

使用链路追踪、事件、诊断是如何加速异常定位，以及帮助业务人员平稳度过流量波峰的呢？

相信这些问题也是很多云计算从业人员的疑问。云计算从业人员从来不怕实践新技术，只怕在错误的引导下使新技术的实践之路困难重重。基于此，笔者想撰写一本书，详细讲解云原生时代的可观测性技术，给出上述问题的答案。

然而，本书中的知识只能是知识，只有融于实践的知识才能创造价值。笔者从自身经历的多个可观测系统实战中提炼出了可观测系统各个模块的一体式解决方案，希望能以这些实践经验引导读者搭建自己的可观测系统（不仅包括适合业务系统的可观测系统，还包括能支撑大规模流量的高性能稳定的可观测系统）。

希望读者通过阅读本书不仅可以收获可观测性方面的知识，还能在每次实战中将知识沉淀为实践方法与经验。

本书内容

本书包括8章，主要介绍可观测性整体解决方案与业务实战案例。

第1章 可观测性概述

本章粗略地介绍可观测性，以期向读者展示可观测性的全貌。本章从分析系统架构的演进开始，带领读者了解可观测性的起源和可观测性技术的发展及现状。同时基于团队不同职责成员的视角介绍可观测性数据的类型、价值和作用，以及可观测性技术在实际应用中的价值。

第2章 系统架构

本章主要介绍可观测系统架构的设计和实战。首先分析可观测系统架构设计的基本原则，指导读者如何设计可观测系统；然后基于Grafana和Elastic技术栈搭建可观测平台；最后介绍如何基于开源架构解决大规模数据计算问题。

第3章 日志系统实战

本章主要介绍可观测系统中常见的日志系统。首先基于OpenTelemetry的规范介绍日志模型的设计，然后搭建Elasticsearch和ClickHouse两种日志系统，同时介绍如何建立集群并读/写日志。本章还介绍了5个典型的Elasticsearch调优实战，尤其是PB级别数据量下的Elasticsearch调优，以期帮助开发人员构建承载亿万级数据的日志系统。

第4章 链路追踪系统实战

本章直观地展现了系统运行情况，并还原了异常请求的链路追踪系统。首先介绍基于OpenTelemetry的链路追踪模型，然后对系统选型进行详细的实战分析。本章讨论了笔者在日均百亿级调用量的链路追踪系统上遇到的实际问题并展开分析，以期帮助读者搭建自己的链路追踪系统。

第5章 指标系统实战

本章主要介绍可观测系统中非常普遍的指标系统。构建完善的指标系统对于了解系统运行状态、保障系统健康运行具有至关重要的意义。本章先分析指标采集模型的设计，再对业界常见的指标监控系统进行实战分析。本章基于笔者在海量指标系统中遇到的实际问题展开介绍，以期帮助读者解决指标系统中常见的问题。

第6章 事件中心实战

本章主要介绍可观测系统中不可忽视的事件中心。可观测系统天然契合事件驱动架构。首先介绍事件驱动架构和事件模型设计，然后针对笔者在大规模事件场景中遇到的实际问题展开介绍，以期帮助读者搭建适合业务的事件中心。

第7章 Profile诊断实战

本章主要介绍可观测系统中定位复杂问题根因的Profile诊断。首先介绍线上分析工具，包括JDK原生工具、Arthas和Wireshark；然后介绍在各类指标出现异常时如何定位与解决问题；最后介绍线上问题事后分析的方法，这对云原生应用的长期稳定运行具有重要作用。

第8章 可观测性的探索

本章主要介绍可观测性在DevOps与AIOps中的重要作用。首先介绍在DevOps中可观测性的作用，以及可观测性在全链路压力测试和混沌工程中的用处；然后介绍在AIOps中应用可观测性数据来实现智能化运维，以及企业级场景下AIOps落地的难点与经验。