第一章：Go微服务混沌工程概述与微头条测试环境特征
混沌工程是一种通过主动注入故障来验证系统弹性与韧性的实验性方法。在Go语言构建的微服务架构中，其轻量级协程、强类型接口和丰富的标准库（如net/http、context）为实现可控故障注入提供了天然支持。微头条作为典型的高并发社交内容平台，其测试环境具备以下关键特征：服务高度解耦、依赖链路深（如Feed→User→Comment→Notification）、流量模型呈脉冲式（热点事件触发瞬时QPS飙升）、且核心链路要求P99延迟
混沌工程的核心原则
- 建立稳态假设：例如“用户Feed请求成功率≥99.5%”；
- 真实生产环境模拟：在预发布环境复现线上拓扑，禁用全链路压测流量干扰；
- 自动化实验闭环：故障注入→指标采集→自动终止→结果归档；
- 最小爆炸半径：仅对单个Pod或指定标签（如
env=staging,service=user-api）生效。
微头条测试环境特有约束
| 维度 | 约束说明 |
|---|---|
| 网络隔离 | 测试集群与生产集群物理网络隔离，但共享同一Kubernetes控制平面 |
| 数据沙箱 | 使用TiDB影子库，所有写操作自动路由至_staging后缀表，读操作默认走主库 |
| 服务发现 | 基于Consul的DNS SRV解析，混沌工具需兼容service-name.staging.svc.cluster.local格式 |
Go服务故障注入实践示例
在用户服务中模拟RPC超时，需修改HTTP客户端配置并注入混沌逻辑：
// 在服务初始化阶段注册混沌中间件
func NewHTTPClient() *http.Client {
return &http.Client{
Transport: &chaos.Transport{ // 自定义Transport，继承http.RoundTripper
Base: http.DefaultTransport,
Delay: chaos.NewFixedDelay(300 * time.Millisecond), // 固定延迟300ms
ErrorRate: 0.05, // 5%请求返回net.ErrTimeout
},
}
}
// 启动混沌代理（需部署独立sidecar）
// kubectl apply -f https://raw.githubusercontent.com/micro-chaos/chaos-mesh/v2.6.0/deploy/chaos-mesh.yaml该配置确保故障仅影响测试环境中的指定Deployment，且可通过Prometheus查询http_client_request_duration_seconds_bucket{le="0.3"}验证超时注入效果。
第二章：网络延迟故障注入的理论建模与Go实践
2.1 基于eBPF与netem的延迟注入原理与Go控制封装
核心协同机制
netem 提供网络层可控失真（如延迟、丢包），而 eBPF 在内核态实现细粒度流量标记与旁路决策，二者通过 tc（traffic control）协同：netem 作为 qdisc 执行调度，eBPF 程序挂载于 cls_bpf 分类器，动态决定是否绕过或注入延迟。
Go 封装关键能力
- 使用
github.com/vishvananda/netlink配置 tc qdisc/class/filter - 通过
github.com/cilium/ebpf加载并更新 eBPF map 控制策略开关
// 加载 eBPF 程序并映射延迟配置
prog, err := ebpf.LoadCollectionSpec("delay.bpf.o")
// prog.AttachTC() 挂载至指定网卡 ingress/egress
delayMap := prog.Maps["delay_config"]
delayMap.Update(uint32(0), []byte{50, 0, 0, 0}, 0) // 50ms 延迟（小端）此代码将 50ms 延迟值写入名为
delay_config的 eBPF map 索引 0 处；eBPF 程序读取该值后，在匹配流量路径中调用bpf_skb_adjust_room()触发 netem 排队。
eBPF 与 netem 协同流程
graph TD
A[原始数据包] --> B{eBPF cls_bpf 分类}
B -->|匹配规则| C[写入延迟键值到 map]
B -->|不匹配| D[直通]
C --> E[netem qdisc 读取 map 值]
E --> F[执行对应延迟注入]| 组件 | 职责 | 可编程性 |
|---|---|---|
| netem | 实现标准排队规则（delay/loss） | 低（需 tc 命令重配） |
| eBPF | 动态路由、条件标记、map 通信 | 高（运行时热更新） |
2.2 使用chaos-mesh SDK在Go服务中动态配置延迟策略
Chaos Mesh 提供了 controller-runtime 风格的 Go SDK，支持程序化创建/更新/删除混沌实验。
延迟策略核心结构
delay := &chaosv1alpha1.DelayChaos{
ObjectMeta: metav1.ObjectMeta{
Name: "api-delay-1",
Namespace: "default",
},
Spec: chaosv1alpha1.DelayChaosSpec{
Action: "delay", // 必填：固定为"delay"
Duration: "2s", // 网络延迟持续时间
Latency: "100ms", // 注入的固定延迟值
Selector: chaosv1alpha1.SelectorSpec{
Namespaces: []string{"my-app"},
LabelSelectors: map[string]string{"app": "order-service"},
},
},
}该结构定义了面向 order-service 的 100ms 稳态延迟，作用于所有匹配 Pod 的出向流量。Duration 控制实验生命周期，Latency 是实际注入的网络抖动值。
动态生效流程
graph TD
A[Go服务调用SDK] --> B[构建DelayChaos对象]
B --> C[通过ClientSet.Create提交至K8s API]
C --> D[Chaos Mesh Controller监听并注入iptables规则]
D --> E[Envoy或TC实现流量延迟]关键参数对照表
| 字段 | 类型 | 说明 |
|---|---|---|
Latency |
string | 必填，支持 100ms, 500us 等单位 |
Correlation |
string | 可选，控制延迟波动相关性（如 "0.8"） |
Jitter |
string | 可选，添加随机偏移（如 "20ms"） |
2.3 微头条API网关层延迟注入的可观测性埋点设计
为精准定位网关层延迟注入引发的链路异常，需在延迟注入点同步采集多维上下文指标。
埋点核心字段设计
inject_id：唯一延迟策略标识（如latency_v2_login_150ms）target_service：被注入延迟的目标下游服务名actual_delay_ms：实际生效的延迟毫秒值（含抖动）trace_id与span_id：继承自 OpenTracing 上下文
关键埋点代码（Spring Cloud Gateway Filter）
public class LatencyInjectFilter implements GlobalFilter {
@Override
public Mono<Void> filter(ServerWebExchange exchange, GatewayFilterChain chain) {
long injectMs = latencyConfig.getDelayMs(exchange); // 根据路由/标签动态计算
if (injectMs > 0) {
exchange.getAttributes().put("INJECT_DELAY_MS", injectMs);
// 埋点上报（异步非阻塞）
Metrics.timer("gateway.latency.injected",
"target", exchange.getAttribute("target_service"),
"policy", exchange.getAttribute("inject_id"))
.record(injectMs, TimeUnit.MILLISECONDS);
}
return Mono.delay(Duration.ofMillis(injectMs)).then(chain.filter(exchange));
}
}该逻辑在延迟注入前完成指标打点，避免因 Mono.delay 阻塞导致埋点丢失；injectMs 来源于动态配置中心，支持灰度策略分级控制。
延迟注入可观测性数据流向
graph TD
A[Gateway Filter] --> B[延迟注入执行]
A --> C[同步打点：Timer + Tag]
C --> D[Prometheus Exporter]
B --> E[Jaeger Span 注入 delay_tag]
D & E --> F[Grafana 联合看板]| 指标类型 | 示例名称 | 用途 |
|---|---|---|
| Timer | gateway.latency.injected |
评估注入延迟偏差 |
| Counter | gateway.inject.attempted |
统计注入触发频次 |
| Gauge | gateway.inject.active_policies |
实时策略数监控 |
2.4 Go HTTP Client端超时与重试机制在延迟场景下的适配验证
超时分层控制策略
Go http.Client 需显式配置三类超时，避免阻塞或误判：
Timeout：总请求生命周期上限（含DNS、连接、TLS、写入、读取）Transport.DialContextTimeout：仅控制TCP连接建立耗时Transport.ResponseHeaderTimeout：限定从发送请求到接收响应头的时间
可控重试逻辑示例
func newRetryClient() *http.Client {
return &http.Client{
Timeout: 10 * time.Second,
Transport: &http.Transport{
DialContext: (&net.Dialer{
Timeout: 3 * time.Second, // 连接超时
KeepAlive: 30 * time.Second,
}).DialContext,
ResponseHeaderTimeout: 5 * time.Second, // 响应头超时
},
}
}该配置确保：连接失败在3秒内快速失败；服务端卡在响应头阶段时，5秒即中断；整体请求最长不超过10秒，为重试留出余量。
延迟场景验证矩阵
| 网络延迟类型 | 触发超时项 | 客户端行为 |
|---|---|---|
| DNS解析慢 | DialContext.Timeout |
立即重试（若业务层实现） |
| TLS握手长 | ResponseHeaderTimeout |
中断并释放连接 |
| 响应体传输慢 | Timeout |
整体终止，防止goroutine堆积 |
graph TD
A[发起HTTP请求] --> B{连接建立 ≤3s?}
B -->|否| C[触发Dial超时→快速失败]
B -->|是| D{收到响应头 ≤5s?}
D -->|否| E[触发Header超时→释放连接]
D -->|是| F[读取Body ≤剩余时间?]
F -->|否| G[触发总Timeout→终止]2.5 基于OpenTelemetry的延迟故障链路追踪与根因定位
核心能力演进
传统日志埋点难以关联跨服务调用，OpenTelemetry 通过统一 Trace ID 注入与上下文传播（W3C Trace Context），实现端到端延迟归因。
自动化根因识别流程
# OpenTelemetry Python SDK 配置示例（自动注入Span）
from opentelemetry import trace
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import BatchSpanProcessor
from opentelemetry.exporter.otlp.proto.http.trace_exporter import OTLPSpanExporter
provider = TracerProvider()
processor = BatchSpanProcessor(OTLPSpanExporter(endpoint="http://collector:4318/v1/traces"))
provider.add_span_processor(processor)
trace.set_tracer_provider(provider)该配置启用 OTLP HTTP 协议上报，
BatchSpanProcessor提供异步批量发送与重试机制；endpoint指向可观测性后端（如 Jaeger 或 Tempo），确保高吞吐低延迟采集。
关键指标聚合维度
| 维度 | 示例值 | 用途 |
|---|---|---|
http.status_code |
503 | 快速筛选失败调用 |
http.duration_ms |
2480 | 定位慢请求 |
service.name |
payment-service |
跨服务拓扑映射 |
故障传播路径可视化
graph TD
A[API Gateway] -->|HTTP 200, 120ms| B[Auth Service]
B -->|gRPC 500, 3800ms| C[User DB]
C -->|Timeout| D[(DB Connection Pool)]第三章：进程OOM故障模拟与Go内存韧性验证
3.1 Go runtime内存模型与OOM触发边界条件分析
Go runtime采用两级内存分配器（mheap + mcache），配合写屏障与三色标记实现并发GC。其OOM并非仅由runtime.SetMemLimit()触发，而是受多个边界协同约束。
关键阈值参数
GOGC=100：默认堆增长倍数GOMEMLIMIT：硬性RSS上限（Go 1.19+）runtime/debug.SetMemoryLimit()：动态设置软限
OOM触发链路
// 模拟接近OOM时的主动干预
debug.SetMemoryLimit(512 << 20) // 512MB
memStats := &runtime.MemStats{}
runtime.ReadMemStats(memStats)
if memStats.Alloc > 480<<20 {
runtime.GC() // 提前触发回收
}该代码在分配量达480MB时强制GC，避免触达512MB硬限导致fatal error: out of memory。SetMemoryLimit作用于RSS（含堆外开销），而Alloc仅统计堆上活动对象，二者差值即为“不可控内存灰域”。
| 指标 | 含义 | 典型安全余量 |
|---|---|---|
Sys |
OS申请总内存 | ≥20% |
HeapInuse |
已分配页 | ≥15% |
StackInuse |
goroutine栈总占用 | ≥10% |
graph TD
A[Alloc > GOMEMLIMIT * 0.95] --> B[触发强制GC]
B --> C{GC后仍超限？}
C -->|是| D[sysmon检测OOM]
C -->|否| E[继续运行]
D --> F[abort: runtime: out of memory]3.2 使用cgroups v2 + Go exec注入可控内存压力实验
cgroups v2 提供统一、层级化的资源控制接口，相比 v1 更简洁且线程级隔离更可靠。我们通过 Go 的 os/exec 调用 dd 与 stress-ng 在指定 cgroup 中生成可调内存压力。
创建内存受限 cgroup
# 启用 memory controller 并创建子组
sudo mkdir -p /sys/fs/cgroup/stress-test
echo "+memory" | sudo tee /sys/fs/cgroup/cgroup.subtree_control
echo 100M | sudo tee /sys/fs/cgroup/stress-test/memory.max
memory.max设定硬性上限；cgroup.subtree_control启用子树控制器继承；未设memory.high则无软限制。
注入压力进程（Go 实现）
cmd := exec.Command("stress-ng", "--vm", "1", "--vm-bytes", "200M", "--timeout", "30s")
cmd.SysProcAttr = &syscall.SysProcAttr{
Credential: &syscall.Credential{Uid: 0, Gid: 0},
Setpgid: true,
}
cmd.Dir = "/sys/fs/cgroup/stress-test"
_ = cmd.Start()
Setpgid确保进程组归属可控；cmd.Dir非执行路径，而是为cgroup.procs写入做准备（需后续echo $PID > cgroup.procs）。
关键参数对照表
| 参数 | 含义 | 推荐值 |
|---|---|---|
memory.max |
内存硬上限 | 100M（防 OOM kill） |
stress-ng --vm-bytes |
单进程匿名页分配量 | ≤ memory.max × 0.8 |
--vm-keep |
是否保留内存（避免 page reclaim 干扰） | true |
graph TD
A[Go 启动 stress-ng] --> B[进程加入 init 进程组]
B --> C[手动写入 PID 到 cgroup.procs]
C --> D[cgroups v2 内存控制器拦截 page allocation]
D --> E[超过 memory.max 触发 direct reclaim 或 OOM]3.3 微头条Feed服务在OOM前的GC预警与优雅降级实现
GC指标实时监控接入
通过 JVM Agent 注入 G1OldGenOccupancyThreshold 和 MaxGCPauseMillis，结合 Micrometer 暴露 jvm.gc.pause.totalTime 与 jvm.memory.used 指标。
// 启动时注册GC事件监听器
ManagementFactory.getGarbageCollectorMXBeans().forEach(gc -> {
if (gc.getName().contains("G1 Old Generation")) {
NotificationEmitter emitter = (NotificationEmitter) gc;
emitter.addNotificationListener((n, h) -> {
if ("GARBAGE_COLLECTION".equals(n.getType())) {
long duration = ((CompositeData) n.getUserData()).get("duration");
if (duration > 500) { // 超500ms视为高危GC
gcWarningCounter.increment();
}
}
}, null, null);
}
});逻辑分析：监听 G1 Old GC 事件，捕获每次暂停时长；duration 单位为毫秒，阈值设为 500ms 是因线上 P99 延迟容忍上限为 600ms；gcWarningCounter 用于触发后续降级判断。
三级熔断策略联动
- Level 1（轻度）：GC Pause > 500ms × 3/min → 降低推荐模型复杂度（如禁用多路召回中的向量路）
- Level 2（中度）：Old Gen 使用率 > 85% 持续 2min → 切换至缓存兜底Feed（TTL=30s）
- Level 3（紧急）：
java.lang.OutOfMemoryError: GC overhead limit exceeded→ 全量返回静态热点Feed（QPS限流至5k）
降级效果对比（压测数据）
| 场景 | 平均延迟 | 错误率 | Feed相关性（NDCG@10） |
|---|---|---|---|
| 正常模式 | 128ms | 0.02% | 0.73 |
| Level 2降级后 | 42ms | 0.00% | 0.51 |
| Level 3降级后 | 18ms | 0.00% | 0.39 |
graph TD
A[Prometheus采集GC指标] --> B{是否连续2次<br>OldGen > 85%?}
B -->|Yes| C[触发Level 2降级]
B -->|No| D[维持正常服务]
C --> E[切换至LRU缓存Feed]
E --> F[上报降级事件至SRE看板]第四章：DNS劫持故障的协议层渗透与Go服务防御实践
4.1 DNS解析流程拆解与Go net.Resolver劫持注入点定位
DNS解析在Go中默认由net.DefaultResolver执行，其底层调用goLookupHost，最终经cgo或纯Go路径（net/dnsclient_unix.go）完成查询。
核心注入点分布
net.Resolver结构体的LookupHost、LookupIPAddr等方法可被自定义实现覆盖net.DefaultResolver为全局单例，替换其字段（如Dial、PreferGo）即可干预行为net.DefaultResolver.StrictErrors影响错误处理策略，是可观测性注入入口
关键代码片段
resolver := &net.Resolver{
PreferGo: true,
Dial: func(ctx context.Context, network, addr string) (net.Conn, error) {
// 此处可劫持UDP/TCP连接，注入自定义DNS逻辑
return net.DialContext(ctx, network, "127.0.0.1:5353") // 本地代理
},
}该Dial函数在每次DNS请求前被调用，参数network为"udp"或"tcp"，addr为上游DNS地址；替换后所有net.Lookup*调用将经此路径。
| 注入层级 | 可控粒度 | 是否影响全局 |
|---|---|---|
Resolver.Dial |
连接级 | 否（仅作用于该实例） |
net.DefaultResolver = resolver |
全局级 | 是 |
GODEBUG=netdns=go |
运行时级 | 是（影响整个进程） |
graph TD
A[net.LookupHost] --> B[net.Resolver.LookupHost]
B --> C{PreferGo?}
C -->|Yes| D[goLookupHost]
C -->|No| E[cgoLookupHost]
D --> F[Resolver.Dial]
E --> F4.2 基于coredns插件链的Go测试环境DNS劫持模拟方案
在Go集成测试中，需隔离外部DNS依赖。CoreDNS通过插件链机制支持动态响应注入，无需修改应用代码即可实现精准劫持。
插件链配置示例
.:53 {
errors
health
hosts /etc/coredns/override.hosts { # 自定义hosts映射
fallthrough
}
forward . 127.0.0.1:5353 # 备用上游
}该配置优先查override.hosts，命中则返回预设IP（如api.test.local 10.96.1.100），未命中时转发至本地Mock DNS服务，形成可控解析闭环。
模拟劫持策略对比
| 场景 | 插件方案 | /etc/hosts | Docker DNS |
|---|---|---|---|
| 动态更新 | ✅ 支持热重载 | ❌ 需重启容器 | ❌ 静态绑定 |
| 粒度控制 | ✅ 按域名/通配符 | ❌ 全局生效 | ❌ 容器级 |
流程示意
graph TD
A[Go测试进程发起DNS查询] --> B[CoreDNS监听53端口]
B --> C{匹配hosts插件规则}
C -->|命中| D[返回测试专用IP]
C -->|未命中| E[转发至Mock DNS]4.3 Go微服务中自定义Resolver与fallback DNS容错策略编码
自定义DNS Resolver设计动机
当核心DNS服务器短暂不可用时，硬依赖net.DefaultResolver会导致服务启动失败或gRPC连接超时。需构建具备本地缓存+备用DNS源的弹性解析器。
实现Fallback Resolver核心逻辑
type FallbackResolver struct {
primary *net.Resolver
fallbacks []*net.Resolver // 备用DNS列表，如114.114.114.114、8.8.8.8
cache sync.Map // host → []IPAddr, TTL由time.Now()控制
}
func (r *FallbackResolver) LookupHost(ctx context.Context, host string) ([]string, error) {
if ips, ok := r.getCached(host); ok {
return ips, nil
}
for _, res := range append([]*net.Resolver{r.primary}, r.fallbacks...) {
if ips, err := res.LookupHost(ctx, host); err == nil {
r.setCache(host, ips)
return ips, nil
}
}
return nil, errors.New("all DNS resolvers failed")
}逻辑分析：优先查本地缓存（避免重复解析）；依次尝试主Resolver与fallback列表；首次成功即缓存并返回。
ctx支持超时与取消，sync.Map保证并发安全。
fallback策略对比
| 策略 | 切换触发条件 | 恢复机制 | 适用场景 |
|---|---|---|---|
| 轮询Fallback | 单次解析失败 | 静态重试 | 简单高可用 |
| 延迟降级 | 连续3次超时（500ms） | 主Resolver心跳检测 | 金融级稳定性要求 |
容错流程图
graph TD
A[LookupHost] --> B{Cache Hit?}
B -->|Yes| C[Return Cached IPs]
B -->|No| D[Attempt Primary DNS]
D --> E{Success?}
E -->|Yes| F[Cache & Return]
E -->|No| G[Loop Fallbacks]
G --> H{Any Success?}
H -->|Yes| F
H -->|No| I[Return Error]4.4 微头条消息推送服务在DNS劫持下的服务发现弹性恢复验证
微头条推送服务依赖 Consul 实现动态服务发现，当遭遇 DNS 劫持导致初始域名解析失败时，客户端需启用多级降级策略快速恢复。
降级服务发现流程
# 客户端服务发现兜底逻辑（带超时与重试）
def discover_push_service():
try:
# 1. 首选：HTTP API 查询 Consul（绕过DNS，直连IP）
return requests.get("http://10.20.30.10:8500/v1/health/service/push-svc?passing",
timeout=2).json()
except Exception:
# 2. 备选：本地缓存的健康节点列表（TTL=60s）
return load_cached_endpoints()该逻辑规避 DNS 解析环节，优先通过 Consul Agent 的内网 IP 直连；超时设为 2s 防止阻塞，passing 参数确保仅返回健康实例。
恢复验证指标对比
| 场景 | 首次恢复耗时 | 服务可用率 | 是否触发熔断 |
|---|---|---|---|
| 正常DNS | 87ms | 100% | 否 |
| DNS劫持+降级启用 | 320ms | 99.998% | 否 |
故障切换状态流转
graph TD
A[DNS解析失败] --> B{Consul直连成功？}
B -->|是| C[更新服务端点]
B -->|否| D[加载本地缓存]
D --> E[启动后台DNS修复探测]
C --> F[推送请求正常转发]第五章：混沌实验治理闭环与微头条生产化演进路径
在微头条核心推荐链路完成容器化与服务网格化改造后，混沌工程不再仅是故障演练的“锦上添花”，而是保障日均30亿次实时推荐请求稳定性的强制准入环节。我们构建了覆盖“定义—注入—观测—决策—修复—归档”六阶段的治理闭环，并深度嵌入CI/CD流水线。
实验准入与策略分级
所有混沌实验必须通过ChaosPolicy YAML Schema校验，按影响范围划分为L1（单Pod延迟注入）、L2（跨AZ服务熔断）、L3（依赖中间件集群级隔离）三级。L3实验需经SRE委员会线上审批并绑定业务低峰期窗口（每日02:00–04:00），审批记录自动同步至内部审计系统。2024年Q2共拦截17例未标注数据一致性风险的L2实验申请。
多维观测指标联动
实验期间实时聚合三类信号：
- 基础层：Prometheus采集的Service Mesh Sidecar重试率、5xx错误码分布；
- 业务层：Flink作业消费延迟（单位：ms）、推荐CTR波动阈值（±0.8%）；
- 用户层：端侧上报的Feed加载超时率（>3s占比）。
当任意维度突破基线±3σ时，自动触发熔断脚本终止实验并推送飞书告警。
自动化修复与知识沉淀
2023年11月一次模拟Redis Cluster脑裂的L3实验中，观测到推荐结果重复率飙升至12%，根因定位为缓存降级逻辑未处理CLUSTERDOWN异常。修复后，将该Case固化为ChaosLab知识库条目（ID: CL-202311-RD-047），并生成对应JUnit测试用例注入至推荐服务单元测试套件。
# 示例：L2级Kafka分区不可用策略模板
apiVersion: chaosmesh.org/v1alpha1
kind: NetworkChaos
metadata:
name: kafka-partition-unavailable
spec:
action: partition
mode: one
value: ""
duration: "10m"
scheduler:
cron: "@every 24h"
direction: to
target:
selector:
labels:
app.kubernetes.io/name: recommendation-worker
mode: all治理效果量化看板
| 指标 | Q1 2024 | Q2 2024 | 变化 |
|---|---|---|---|
| 平均MTTD（分钟） | 8.2 | 3.7 | ↓54.9% |
| 生产故障复现成功率 | 61% | 92% | ↑31pp |
| 实验导致P0事故数 | 2 | 0 | — |
| 自动化修复覆盖率 | 44% | 78% | ↑34pp |
微头条生产化演进关键里程碑
2023年启动混沌左移试点，将ChaosRunner作为GitLab CI默认stage；2024年3月上线实验健康度评分模型（基于历史实验成功率、指标恢复时长、人工介入频次加权），评分
持续验证机制
每周四凌晨执行全链路回归混沌集（Full-Chain Regression Chaos Set），包含12个预设故障场景，覆盖从用户请求接入（Nginx Ingress）到特征实时计算（Flink SQL UDF）的全部17个服务节点。所有实验结果自动生成PDF报告并归档至Confluence知识库，保留原始Prometheus查询链接与Jaeger Trace ID，供事后回溯。
