Golang弹幕系统可观测性建设（Prometheus+OpenTelemetry+火焰图）：5分钟定位TOP3耗时接口

第一章：Golang抖音弹幕系统可观测性建设全景概览

在高并发、低延迟的抖音弹幕场景中，单日峰值弹幕量可达亿级，每秒处理请求超百万。可观测性并非日志、指标、链路的简单堆砌，而是围绕“用户弹幕从发送到渲染”全生命周期构建的协同诊断体系——它需同时回答三个核心问题：系统是否健康？异常发生在哪里？为什么发生？

核心观测维度协同设计

• 指标（Metrics）：聚焦服务端关键路径，如 barrage_ingest_latency_seconds_bucket（HTTP入参解析耗时）、redis_queue_length（未消费弹幕队列水位）；使用 Prometheus 定期拉取，告警阈值基于 P99 历史基线动态浮动。
• 日志（Logs）：结构化输出，强制包含 trace_id、room_id、user_id、seq_id 四维上下文字段；通过 Loki + Promtail 实现毫秒级检索。
• 链路（Tracing）：基于 OpenTelemetry SDK 注入，覆盖 HTTP → Kafka Producer → Redis Pub/Sub → WebSocket Broadcast 全链路；关键 span 打标 barrage.type=hot 或 barrage.priority=high。

数据采集落地示例

在 Golang 弹幕接入层启用 OTel 链路追踪，需初始化 SDK 并注入全局 tracer：

import (
    "go.opentelemetry.io/otel"
    "go.opentelemetry.io/otel/exporters/otlp/otlptrace/otlptracehttp"
    "go.opentelemetry.io/otel/sdk/trace"
)

func initTracer() {
    exporter, _ := otlptracehttp.New(context.Background())
    tp := trace.NewTracerProvider(
        trace.WithBatcher(exporter),
        trace.WithResource(resource.MustNewSchema1(
            semconv.ServiceNameKey.String("barrage-ingest"),
            semconv.ServiceVersionKey.String("v2.4.0"),
        )),
    )
    otel.SetTracerProvider(tp)
}

该初始化确保每个 HTTP 请求自动生成 trace，并透传至下游 Kafka 消息头（通过 propagators.TraceContext{} 注入 traceparent 字段），实现跨服务上下文贯通。

观测能力分层演进

阶段	能力特征	典型工具组合
基础可见	单点指标与日志可查	Prometheus + Grafana + Loki
故障定位	支持 trace→log→metric 三者跳转	Jaeger + Loki + VictoriaMetrics
根因预测	基于时序异常检测自动关联指标突变与 span 错误率	Thanos + PyOD + 自研关联引擎

第二章：Prometheus深度集成与弹幕指标体系设计

2.1 弹幕核心SLI/SLO定义与Golang指标建模实践

弹幕系统的核心SLI聚焦于实时性（端到端延迟 ≤ 400ms）、可达性（消息投递成功率 ≥ 99.95%）和稳定性（每秒丢弃弹幕数

指标建模关键维度

• 消息生命周期阶段：ingress → validate → queue → dispatch → render
• 错误分类：validation_failed、queue_full、timeout_render

Golang Prometheus指标注册示例

var (
    // 延迟直方图（单位：毫秒）
    barrageLatency = prometheus.NewHistogramVec(
        prometheus.HistogramOpts{
            Namespace: "barrage",
            Subsystem: "core",
            Name:      "latency_ms",
            Help:      "End-to-end latency of barrage message (ms)",
            Buckets:   prometheus.ExponentialBuckets(10, 2, 8), // 10ms~1280ms
        },
        []string{"stage", "code"}, // stage=dispatch, code=200/503
    )
)

func init() {
    prometheus.MustRegister(barrageLatency)
}

逻辑分析：ExponentialBuckets(10, 2, 8)生成8个指数增长桶（10,20,40,…,1280ms），精准覆盖弹幕低延迟场景；stage标签支持链路诊断，code区分业务成功与限流失败，为SLO计算提供原子数据源。

SLI-SLO映射关系表

SLI	计算方式	SLO阈值	数据来源
端到端延迟	rate(barrage_latency_ms_bucket{stage="render"}[5m])	P99 ≤ 380ms	Histogram bucket计数
投递成功率	1 - rate(barrage_errors_total{code="5xx"}[1h]) / rate(barrage_total[1h])	≥ 99.95%	Counter聚合

graph TD
    A[弹幕写入] --> B[校验与路由]
    B --> C{队列水位 < 80%?}
    C -->|是| D[异步分发]
    C -->|否| E[返回503并打点]
    D --> F[前端渲染]
    E --> G[barrage_errors_total{code=\"503\"}]
    F --> H[barrage_latency_ms_bucket{stage=\"render\"}]

2.2 自研弹幕中间件（DanmuBroker）的Exporter开发与注册机制

DanmuBroker 的 Exporter 采用 Prometheus 官方 client_golang SDK 实现，核心职责是将实时弹幕吞吐量、延迟分位数、连接数等指标以标准格式暴露。

指标注册流程

• 初始化时调用 prometheus.MustRegister() 注册自定义 Collector
• 所有指标命名遵循 danmu_broker_<metric>_<unit> 规范（如 danmu_broker_latency_seconds_bucket）
• 使用 promauto.With(registry).NewHistogram() 动态注册带标签的直方图

核心代码片段

// 创建带连接类型标签的延迟直方图
latencyHist := promauto.With(reg).NewHistogram(
    prometheus.HistogramOpts{
        Name:    "danmu_broker_latency_seconds",
        Help:    "Latency of danmu processing in seconds",
        Buckets: prometheus.ExponentialBuckets(0.001, 2, 12), // 1ms~2s
    })

该直方图自动按 le 标签分桶，Buckets 参数定义 12 级指数间隔（1ms 起始，公比为 2），覆盖典型弹幕处理延迟区间，便于后续计算 P95/P99。

指标维度表

标签名	取值示例	说明
topic	live_1001, chat_global	弹幕所属频道或业务域
status	success, dropped, timeout	处理结果状态

graph TD
    A[DanmuBroker 启动] --> B[初始化 Exporter]
    B --> C[注册 Histogram/Gauge/Counter]
    C --> D[启动 /metrics HTTP handler]
    D --> E[Prometheus 定期拉取]

2.3 高基数场景下Labels设计避坑指南与Cardinality压测验证

常见高基数陷阱

• 使用 user_id、request_id、trace_id 作为 label 直接暴露；
• 动态生成的路径参数（如 /api/v1/users/{id}/profile 中的 id）未归一化；
• 时间戳类 label（如 minute=202405201432）导致每分钟新增数千唯一值。

推荐归一化策略

# 错误示例：高基数 label
- labels:
    user_id: "usr_8a7f9b2c"     # ✗ 每用户唯一，基数≈百万
    path: "/order/123456789"   # ✗ ID 路径未泛化

# 正确示例：泛化 + 分桶
- labels:
    user_tier: "premium"        # ✓ 静态分类
    path_template: "/order/:id" # ✓ 路径模板化
    minute_bucket: "1430"       # ✓ 10分钟桶，降低时间维度粒度

逻辑分析：path_template 通过正则预处理（如 re.sub(r'/\d+', '/:id', path)）将动态ID路径映射为固定模板；minute_bucket 由 floor(minute / 10) * 10 计算，使每10分钟仅产生1个新label值，Cardinality下降90%+。

Cardinality压测关键指标对比

维度	未优化	归一化后	降幅
Label组合数/小时	2.4M	8.6K	99.6%
内存占用/实例	1.8GB	210MB	88%

graph TD
    A[原始Metrics] --> B{Label分析}
    B -->|含高基字段| C[拒绝写入]
    B -->|已泛化| D[通过Cardinality校验]
    D --> E[写入TSDB]

2.4 Prometheus Rule优化：基于弹幕洪峰特征的动态告警分组策略

弹幕系统在直播高峰时段常出现毫秒级突增（如开播/抽奖瞬间），传统静态告警分组易导致告警风暴或漏报。

核心思路：洪峰感知 + 分组弹性伸缩

• 实时提取 douyu_barrage_rate_seconds_total 的滑动窗口 P99 增速
• 动态计算分组粒度：group_by: [room_id, floor((timestamp % 300) / (10 * (1 + log2(peak_ratio)) ))]

关键 PromQL 规则片段

# 动态分组标签注入（用于后续 alert rule 的 group_by）
- record: job:dynamic_group_id
  expr: |
    # 每5分钟根据洪峰强度生成分组ID（0~4，强度越大分组越细）
    floor(
      rate(douyu_barrage_rate_seconds_total[2m]) 
      / (rate(douyu_barrage_rate_seconds_total[10m]) + 1) 
      / 5
    ) % 5

逻辑说明：rate[2m]/rate[10m] 衡量短时爆发强度；/5 %5 映射为离散分组ID，避免浮点精度问题；该指标被 label_replace() 注入原始指标，供 alerting_rules 引用。

分组效果对比

场景	静态分组（room_id）	动态分组（room_id + group_id）
平峰期（	87 条告警	42 条（合并冗余）
洪峰期（>50k/s）	2100+ 条（风暴）	136 条（按热度分层收敛）

graph TD
  A[原始弹幕指标] --> B{滑动洪峰检测}
  B -->|低强度| C[粗粒度分组：room_id]
  B -->|高强度| D[细粒度分组：room_id + shard_id]
  C & D --> E[统一告警路由]

2.5 Grafana看板实战：构建“弹幕吞吐-延迟-丢弃”黄金三角监控视图

为精准刻画实时弹幕系统的健康水位，需同步观测三类核心指标：每秒接收/分发弹幕数（吞吐）、端到端处理延迟（P95/P99）、因过载或校验失败被主动丢弃的弹幕量。

数据源对接

接入 Prometheus 暴露的以下指标：

• danmu_ingress_rate_total（counter）
• danmu_latency_seconds{quantile="0.95"}（histogram）
• danmu_dropped_total{reason=~"overload|schema"}（counter）

黄金三角看板配置

# dashboard.json 中 panel 示例（简化）
targets:
- expr: rate(danmu_ingress_rate_total[1m])
  legendFormat: "吞吐 (QPS)"
- expr: histogram_quantile(0.95, rate(danmu_latency_seconds_bucket[1m]))
  legendFormat: "延迟 P95 (s)"
- expr: rate(danmu_dropped_total[1m])
  legendFormat: "丢弃率 (QPS)"

逻辑说明：rate() 自动处理 counter 重置与时间窗口对齐；延迟使用 histogram_quantile 从分桶直方图中精确计算 P95，避免平均值失真；所有表达式统一采用 1m 窗口，保障时序一致性。

关键阈值告警联动

指标	危险阈值	响应动作
吞吐下降 >30%	连续2分钟	触发负载均衡器健康检查
延迟 P95 >800ms	连续1分钟	自动扩容消费 Worker
丢弃率 >5 QPS	持续30秒	切断上游非关键弹幕流

graph TD
    A[Prometheus] -->|pull| B[Grafana]
    B --> C[吞吐面板]
    B --> D[延迟热力图]
    B --> E[丢弃原因分布饼图]
    C & D & E --> F[黄金三角关联分析]

第三章：OpenTelemetry统一链路追踪落地

3.1 Golang OTel SDK在弹幕长连接场景下的Context透传与Span生命周期管理

弹幕长连接（如 WebSocket）中，单个连接持续数分钟至数小时，而业务请求（如发弹、抽奖、点赞）频繁嵌套于同一连接上下文内，需避免 Span 泄漏与 Context 错绑。

Context 透传关键：基于 context.WithValue 的轻量携带

// 在连接建立时创建根 Span，并注入到 conn.Context()
ctx, span := tracer.Start(connCtx, "danmu.connection", trace.WithSpanKind(trace.SpanKindServer))
conn = &DanmuConn{Conn: wsConn, ctx: ctx} // 持久化携带，非每次请求新建

// 后续业务操作复用 conn.ctx，确保 Span 上下文连续

逻辑分析：connCtx 通常来自 HTTP upgrade 请求的 r.Context()；trace.WithSpanKind(trace.SpanKindServer) 明确标识服务端入口；将 ctx 绑定到连接实例而非 request，实现跨消息帧的 Context 复用。

Span 生命周期管理策略

• ✅ 连接建立 → 启动 root Span
• ✅ 每条业务消息 → tracer.Start(conn.ctx, "danmu.send")（自动继承 parent）
• ❌ 连接关闭前未显式 span.End() → 导致 Span 泄漏与指标失真

场景	推荐 Span 状态	原因
连接握手成功	span.End()	入口 Span 完成
弹幕消息处理失败	span.RecordError(err) + span.End()	错误可观测，不中断链路
心跳 Ping/Pong	不创建 Span	无业务语义，避免噪音

自动结束机制流程

graph TD
    A[WebSocket OnMessage] --> B{是否为业务指令？}
    B -->|是| C[Start child Span with conn.ctx]
    B -->|否| D[跳过追踪]
    C --> E[执行业务逻辑]
    E --> F[defer span.End()]

3.2 自定义Instrumentation：WebSocket握手、消息解析、业务路由三阶段埋点实践

在 WebSocket 全链路可观测性建设中，需在三个关键节点注入自定义指标与上下文：

握手阶段埋点

捕获连接建立耗时、HTTP 状态码、Sec-WebSocket-Key 等元数据：

public void onHandshakeStarted(WebSocketServerProtocolConfig config, ChannelHandlerContext ctx) {
    Metrics.timer("ws.handshake.duration").start(); // 启动计时器
    Tags tags = Tags.of("status", "pending", "version", config.websocketVersion().toString());
    Tracer.currentSpan().tag("ws.handshake.start", String.valueOf(System.nanoTime()));
}

逻辑分析：onHandshakeStarted 在 HTTP 升级请求被接收后立即触发；websocketVersion() 返回 RFC 6455 或兼容版本；Tracer.currentSpan() 确保与分布式追踪链路对齐。

消息解析阶段

使用 ByteBuf 解析帧结构，提取 opcode 与 payload 长度：

字段	类型	说明
opcode	byte	0x1（文本）、0x2（二进制）
payloadLen	int	解析后有效载荷字节数
isMasked	boolean	客户端发来的帧必为 true

业务路由阶段

private void routeMessage(String msgType, JsonObject payload) {
    String routeKey = payload.get("route").getAsString();
    Metrics.counter("ws.route.count", "route", routeKey).increment();
}

该调用将路由键作为标签注入指标系统，支撑按业务域（如 "chat" / "notify"）切片分析。

3.3 Trace采样策略调优：基于弹幕优先级（TOP/普通/低质）的动态概率采样实现

为保障高价值链路可观测性，同时抑制低质弹幕引发的采样风暴，我们设计了三级优先级驱动的动态采样器。

核心采样逻辑

def dynamic_sample(trace: Trace, priority: str) -> bool:
    base_rate = {"TOP": 1.0, "NORMAL": 0.1, "LOW_QUALITY": 0.001}
    # 引入实时QPS衰减因子，防突发流量压垮后端
    qps_factor = min(1.0, 1000 / (current_qps + 1))
    final_rate = base_rate[priority] * qps_factor
    return random.random() < final_rate

该函数依据弹幕元数据中的priority字段查表获取基准采样率，并融合当前系统QPS做自适应衰减，避免采样率恒定导致的资源倾斜或漏采。

优先级判定规则

• TOP：含打赏、主播@、实时热度Top 5弹幕
• NORMAL：普通用户发送、无异常特征
• LOW_QUALITY：高频重复、含屏蔽词、空内容或Bot特征

采样率配置对照表

优先级	基准采样率	QPS=200时实际率	QPS=5000时实际率
TOP	100%	100%	20%
NORMAL	10%	10%	2%
LOW_QUALITY	0.1%	0.1%	0.02%

动态决策流程

graph TD
    A[接收Trace] --> B{提取priority标签}
    B -->|TOP| C[应用1.0×qps_factor]
    B -->|NORMAL| D[应用0.1×qps_factor]
    B -->|LOW_QUALITY| E[应用0.001×qps_factor]
    C & D & E --> F[生成随机数比对]
    F --> G[决定是否采样]

第四章：火焰图驱动的性能根因分析闭环

4.1 Go runtime/pprof与OTel Traces联动：生成带TraceID上下文的CPU/Heap火焰图

Go 的 runtime/pprof 默认采集无分布式上下文，而可观测性要求性能剖析数据与 Trace 生命周期对齐。关键在于将当前 trace.SpanContext().TraceID() 注入 pprof 标签。

数据同步机制

使用 pprof.WithLabels() 动态注入 TraceID：

import "go.opentelemetry.io/otel/trace"

func profileWithTrace(ctx context.Context, w http.ResponseWriter, r *http.Request) {
    span := trace.SpanFromContext(ctx)
    tid := span.SpanContext().TraceID().String()
    labels := pprof.Labels("trace_id", tid) // 关键：绑定TraceID为pprof标签
    pprof.StartCPUProfile(pprof.WithLabels(ctx, labels))
    defer pprof.StopCPUProfile()
}

逻辑分析：pprof.WithLabels 将 ctx 中的 label 映射到当前 goroutine 的 pprof 上下文；"trace_id" 标签在火焰图采样元数据中可见，后续可按 TraceID 聚合过滤。

集成路径

• OTel SDK 启用 trace.SpanContext() 透传
• pprof 输出需启用 --http 或 net/http/pprof 并挂载 /debug/pprof/profile?seconds=30&trace_id=...
• 火焰图工具（如 pprof -http=:8080 cpu.pprof）支持按标签筛选

组件	作用
pprof.Labels	注入运行时标签（非静态）
OTel Context	提供跨协程 TraceID 可见性
pprof.Profile	采集时自动关联标签元数据

graph TD
    A[HTTP Request] --> B[OTel Middleware]
    B --> C[StartSpan → ctx]
    C --> D[pprof.WithLabels ctx]
    D --> E[CPUProfile with trace_id]
    E --> F[Flame Graph + TraceID filter]

4.2 弹幕TOP3耗时接口定位实战：从Prometheus慢查询告警到pprof火焰图逐层下钻

告警触发与初步筛选

Prometheus 检测到 /api/danmaku/top3 接口 P95 耗时突增至 1.8s（阈值 300ms），触发 http_request_duration_seconds_bucket 告警。

下钻至服务端指标

# 获取目标Pod的pprof端点（需提前启用net/http/pprof）
curl "http://danmaku-svc:6060/debug/pprof/profile?seconds=30" -o cpu.pprof

该命令采集30秒CPU采样，seconds=30 确保捕获高负载时段热点，避免瞬态噪声干扰。

火焰图生成与关键路径识别

go tool pprof -http=:8080 cpu.pprof

火焰图显示 (*DanmakuService).GetTop3 占比达62%，其子路径中 redis.Client.ZRevRange 耗时占比41%——指向ZSET范围查询未命中缓存。

根因收敛验证

维度	观察值	含义
Redis慢日志	ZREVRANGE danmaku:202405 0 2	无索引全量排序，O(n log n)
连接池等待	avg_wait_time_ms=427	连接复用不足，协程阻塞

graph TD
    A[Prometheus告警] --> B[定位Pod IP]
    B --> C[pprof CPU采样]
    C --> D[火焰图聚焦GetTop3]
    D --> E[Redis ZRevRange热点]
    E --> F[添加缓存预热逻辑]

4.3 内存泄漏诊断：结合Golang逃逸分析与火焰图识别弹幕Buffer池滥用模式

弹幕系统高频分配小对象（如 []byte{64}），若 Buffer 池未严格复用，易触发 GC 压力与内存持续增长。

逃逸分析定位隐患

go build -gcflags="-m -m" main.go
# 输出关键行：./buffer_pool.go:12:17: &buf escapes to heap

该提示表明局部 buf 被闭包捕获或返回指针，强制堆分配，绕过池管理。

火焰图聚焦热点路径

graph TD
    A[HandleDanmaku] --> B[GetBuffer]
    B --> C{Pool.Get}
    C -->|miss| D[make\(\[\]byte, 64\)]
    C -->|hit| E[Reset]

典型滥用模式对比

场景	Pool.Get 调用频次	平均生命周期	是否逃逸
正确复用	10K/s		否
误传指针至 goroutine	10K/s	>5s	是

修复示例

// ❌ 错误：buf 地址逃逸至后台协程
go func(b []byte) { defer process(b) }(pool.Get())

// ✅ 正确：值传递 + 显式归还
buf := pool.Get()
process(buf)
pool.Put(buf) // 必须在同 goroutine 归还

4.4 火焰图自动化分析Pipeline：基于ebpf+perf script构建CI/CD性能回归门禁

核心流程设计

# 在CI流水线中嵌入性能门禁检查
perf record -e 'cpu/event=0xXX,umask=0XYY,name=my_event/u' -g -- sleep 5 && \
perf script | stackcollapse-perf.pl | flamegraph.pl > profile.svg

该命令组合完成采样→符号折叠→可视化全流程；-g启用调用图采集，-- sleep 5确保稳定采样窗口，避免瞬时抖动干扰。

关键组件协同

• bpftrace 实时过滤高开销路径（如 pid == $1 && ustack）
• perf script 输出标准化调用栈文本流，供下游解析
• flamegraph.pl 生成交互式SVG火焰图

门禁判定逻辑

指标	阈值	触发动作
malloc()占比 > 12%	警告	阻断合并并通知
pthread_mutex_lock深度 > 8层	错误	回滚PR并标记阻塞

graph TD
    A[CI触发] --> B[ebpf预热+perf采样]
    B --> C[stackcollapse解析]
    C --> D[阈值比对引擎]
    D --> E{超限？}
    E -->|是| F[拒绝合并+告警]
    E -->|否| G[存档SVG+上传至性能看板]

第五章：总结与可观测性演进路线图

从单体监控到云原生可观测性的实践跃迁

某大型保险科技平台在2021年完成核心保全系统容器化改造后，仍沿用Zabbix+ELK组合采集主机指标与日志，平均故障定位耗时达47分钟。2023年引入OpenTelemetry统一采集SDK，将Trace、Metrics、Logs通过同一管道接入Grafana Tempo + Prometheus + Loki联合分析平台，配合服务网格（Istio）注入的自动上下文传播，MTTD（平均检测时间）压缩至92秒，MTTR下降63%。关键改进在于将Span ID注入Nginx access log与Java应用日志，实现“一次点击，三态联动”。

多云环境下的数据治理挑战

下表对比了该平台在AWS、阿里云、自建IDC三类环境中可观测数据的标准化落地难点：

环境类型	数据协议兼容性	标签体系一致性	采样策略协同性	典型问题
AWS EKS	OpenTelemetry Collector需适配X-Ray SDK	Kubernetes label未同步云厂商Tag	Lambda函数冷启动导致Trace断裂	跨Region链路丢失率达38%
阿里云ACK	支持OTLP-gRPC但需手动配置TLS双向认证	ACK集群label与ACM配置中心命名冲突	自研限流中间件未暴露Prometheus指标	服务依赖图谱缺失5个关键下游
自建IDC	依赖Jaeger Agent转换为OTLP格式	物理机无Pod标签，需通过Ansible动态注入	旧版Spring Boot 1.5无法集成Micrometer	JVM指标采集延迟超15s

智能告警降噪的工程化实现

团队构建基于LSTM的异常检测模型，对Prometheus中200+核心指标进行时序预测，将静态阈值告警占比从81%降至22%。关键代码片段如下：

# 在Grafana Alerting Rule中嵌入ML推理结果
- alert: HighLatencyAnomaly
  expr: |
    predict_linear(http_request_duration_seconds_bucket{le="0.5"}[1h], 3600) 
    > on(job) group_left() 
    ml_anomaly_score{model="lstm_latency"} > 0.92
  for: 5m

可观测性成熟度演进路径

使用Mermaid流程图刻画该企业三年来的能力升级轨迹：

flowchart LR
    A[2021：基础监控] --> B[2022：统一采集]
    B --> C[2023：上下文关联]
    C --> D[2024：预测性洞察]
    A -->|痛点| E[日志无TraceID关联]
    B -->|突破| F[OTel自动注入SpanContext]
    C -->|成果| G[跨K8s Namespace调用链还原率99.2%]
    D -->|落地| H[容量预测误差<7.3%]

工程效能与组织协同机制

设立“可观测性SRE小组”，嵌入各业务线迭代流程：每日站会强制展示前一日Top3慢查询Span、每周发布《黄金信号健康度周报》、每季度开展“Trace回溯实战演练”。2024年Q2数据显示，开发人员自主排查线上问题占比提升至64%，SRE人工介入工单减少41%。关键动作包括将OpenTelemetry配置模板纳入GitOps流水线，每次服务部署自动注入语义约定版本号与业务域标签。

成本优化的实际杠杆点

通过动态采样策略降低存储开销：对/health等探针接口Trace采样率设为0.1%，对支付核心链路维持100%全量采集；利用Prometheus remote_write的分片路由功能，将高基数指标（如http_request_duration_seconds_bucket{le="0.1",path=~"/api/v1/.+"}）单独写入高性能TSDB集群，整体存储成本下降37%。