Skip to content

perf(aggregate): buffer trace payload fragments until sampling - #217

Merged
leecha merged 1 commit into
mainfrom
dataway-129-aggr-fix
Nov 9, 2026
Merged

leecha merged 1 commit into
mainfrom
dataway-129-aggr-fix

Conversation

@songlonqi-java

Copy link
Copy Markdown
Collaborator

同一条 trace 的 point 总量固定而分包数增加时,当前时间轮会在每个后续分片到达时解压已有 payload、拼接并重新压缩,在 shard 锁内反复处理历史数据。此改动允许先保留压缩分片和合并摘要,到期对整组做一次采样决定,支持摘要的规则可直接返回原始保留分片,省去重复编解码。

  • 新增可选的 EnableTracePayloadFragments() 和 TailSamplingFragmentOutcomes();调用方需发送 Packets 中的全部保留分片,并按组记录决策指标。
  • 保持完整分组键、最后到达刷新 TTL、规则优先级和决策时配置;原单 packet 接口仍返回完整 payload。
  • 每组缓冲上限为 256 片、8 MiB 压缩数据;超限、混合压缩格式及启用 payload spiller 时回退旧合并路径。复杂规则在到期后合并一次,再使用原求值器。
  • tracing payload 进入长期驻留前,对明显过量的底层容量执行真实复制,避免压缩结果持有过大的数组;已有紧凑数据不重复复制。
  • 补充分组内容等价、规则顺序、概率采样、复杂规则回退、TTL、晚到包、配置变更、隔离、上限和并发测试,以及固定 point 数的分包基准。

验证结果:

  • go test ./aggregate -count=1:通过。
  • go test -race ./aggregate -count=1:通过。
  • 本次增量 golangci-lint:0 issues。
  • go test ./point -run 'TestV2Encode(TrimProgress|ProtobufBoundary|BoundaryErrors)$' -count=1:通过。
  • Dataway 使用本提交联调:make lint、make test、go mod verify 通过;另覆盖了预算等待、磁盘开关、HTTP query/header/body 透传、分片完整输出及关停后仅重放未接管分片。

固定 128 个 point,比较同一实现中即时合并和分片缓冲两种模式(两者均含缩容),入轮及决策微基准三次中位数如下,不包含下游发送:

分包数 即时合并耗时 分片缓冲耗时 即时合并累计分配 分片缓冲累计分配
2 0.523 ms/op 0.068 ms/op 2.649 MiB/op 0.199 MiB/op
32 7.536 ms/op 0.079 ms/op 35.620 MiB/op 0.215 MiB/op
128 28.667 ms/op 0.103 ms/op 139.310 MiB/op 0.265 MiB/op

命令:GOMAXPROCS=2 go test ./aggregate -run '^$' -bench BenchmarkTracePayloadFragments -benchmem -benchtime=50x -count=3,环境为 Go 1.26.10、Linux amd64。累计分配不代表常驻堆或 RSS,微基准也不代表端到端吞吐收益。

完整检查尚未全绿:LINT_FIX=false make lint 和 make copyright_check 报告未修改代码中的既有问题;全库 make test 遇到未修改的 diskcache 用例磁盘配额不足、WebSocket 连接失败,且运行到 180 秒时被外层超时终止。

调用方仍需对分片施加发送字节预算和停止处理;本改动不提供无限过载接收能力,回退路径仍有原有合并开销。

改动链路:tracing Ingest 保存有界压缩分片并合并摘要,到期整组决策;新增分片结果接口供发送端逐片接管,避免重复解压和重编码。旧单包接口和复杂规则保持兼容,并对长期驻留的过量容量真实缩容。

风险点:每组超过 256 片或 8 MiB 压缩数据、混合协议和 payload spiller 回退旧路径;复杂规则到期仍需物化,调用方必须对全部保留分片施加发送预算。

验证:go test ./aggregate -count=1、go test -race ./aggregate -count=1 通过;固定 128 points、2/8/32/128 分包微基准通过;golangci-lint run --new-from-rev=HEAD 为 0 issues。
已执行 LINT_FIX=false make lint、make copyright_check 和 make test;全库历史 lint/版权问题、未修改的 diskcache/WebSocket 测试及临时目录配额问题使完整检查未通过。
@leecha
leecha merged commit ef82a6c into main Nov 9, 2026
2 checks passed
@songlonqi-java
songlonqi-java deleted the dataway-129-aggr-fix branch November 9, 2026 08:14
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

2 participants