一个固定线程数的脚本压到后端变慢,压测端却自动减少了新请求。对交互会话,这可能正好模拟了用户在等待。对独立到达的回调,这相当于在故障时擅自改低了输入。两种负载的核心区别是新工作由谁触发。Schroeder 等,《Open Versus Closed: A Cautionary Tale》
开环控制到达,闭环控制会话数
| 到达模型 |
新工作如何开始 |
适用的计量对象 |
| 闭环 |
有空闲会话,上一轮完成并经过思考时间 |
固定数量的在线客户端或会话 |
| 开环 |
外部时间表决定何时启动,与上一轮完成独立 |
网关新进流量、定时触发、独立回调 |
| 混合 |
外部持续产生会话,会话内部按业务顺序运行 |
有状态购物漏斗与开放流量并存 |
闭环在稳定、每用户同一时刻一笔工作时,可以粗估吞吐为「并发用户数 /(平均响应时间 + 平均思考时间)」。开环允许固定间隔、随机到达或复刻历史尖峰。固定 1,000 次迭代/秒也只规定了脚本启动次数,迭代含多少请求,还要看脚本和业务响应。
如果应持续到来的工作因为采样工具等待前一次响应而跳过,就出现了常说的协调遗漏(coordinated omission)。没有发出的等待无法从已有响应样本中还原。wrk2 以预定发出时刻为计时起点来包含调度滞后。HdrHistogram 按预期间隔补样是在指定假设下对分布的估计,需要保留原始分布和漏发计数才能判断实验有效性。wrk2 实现说明 · HdrHistogram 说明
同一组工作槽的到达实验
将代码保存为 load-model.cjs,用 Node.js 22 执行 node load-model.cjs。它只调用本机计时器。四个工作槽平时各需 50 ms,试验中从 1.2 秒到 3.6 秒开始执行的作业各需 150 ms。闭环有三个会话,思考时间 10 ms。开环每 20 ms 安排一次提交。正常阶段两者的计划量级接近每秒 50 个。
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108
| const { performance } = require('node:perf_hooks'); const { setTimeout: sleep } = require('node:timers/promises');
const durationMs = 4800; const slowFromMs = 1200; const slowUntilMs = 3600;
function makeTarget(started) { let busy = 0; let peakQueue = 0; const queue = [];
function dispatch() { while (busy < 4 && queue.length > 0) { const complete = queue.shift(); busy += 1; const age = performance.now() - started; const serviceMs = age >= slowFromMs && age < slowUntilMs ? 150 : 50; setTimeout(() => { busy -= 1; complete(); dispatch(); }, serviceMs); } }
return { submit() { return new Promise(resolve => { queue.push(resolve); dispatch(); peakQueue = Math.max(peakQueue, queue.length); }); }, peakQueue: () => peakQueue, }; }
function p99(values) { if (values.length === 0) return null; const ordered = values.toSorted((a, b) => a - b); return Math.round(ordered[Math.ceil(0.99 * ordered.length) - 1]); }
async function run(mode) { const started = performance.now(); const target = makeTarget(started); const samples = []; let plannedOpen = null;
async function submit(planned) { const issued = performance.now(); await target.submit(); const finished = performance.now(); samples.push({ planned: planned - started, issued: issued - started, responseMs: finished - issued, scheduledMs: finished - planned, }); }
if (mode === 'open') { const pending = []; for (let offset = 0; offset < durationMs; offset += 20) { const planned = started + offset; const remaining = planned - performance.now(); if (remaining > 0) await sleep(remaining); pending.push(submit(planned)); } plannedOpen = pending.length; await Promise.all(pending); } else { const clients = Array.from({ length: 3 }, async () => { while (performance.now() - started < durationMs) { await submit(performance.now()); await sleep(10); } }); await Promise.all(clients); }
const slowWindow = samples.filter(({ planned }) => planned >= slowFromMs && planned < slowUntilMs ); console.log({ mode, plannedOpen, completed: samples.length, slowWindowStarts: slowWindow.length, peakQueue: target.peakQueue(), responseP99Ms: p99(slowWindow.map(row => row.responseMs)), scheduledP99Ms: p99(slowWindow.map(row => row.scheduledMs)), maxScheduleLagMs: Math.ceil(Math.max(...samples.map(row => row.issued - row.planned ))), }); }
async function main() { await run('closed'); await run('open'); }
main().catch(error => { console.error(error); process.exitCode = 1; });
|
开环在变慢窗口仍安排 120 次,产生队列。闭环每个会话等待完成,变慢窗口的启动次数会下降,且三个会话占不满四个工作槽。比较 slowWindowStarts 与 peakQueue 能看到延迟分布发生变化的原因。这里按计划启动时间归属样本,在发压结束后仍等待已提交作业完成。脚本用延后发送保留全部计划工作,主机计时器出现抖动时可从 maxScheduleLagMs 看出滞后。它省去了网络、定长队列、超时和拒绝,只用于展示到达与排队的关系。
本地一次运行的慢窗口结果如下。毫秒级计时器受主机调度影响,复跑时主要比较启动量和队列的变化。
| 到达模型 |
慢窗口启动数 |
峰值排队数 |
慢窗口响应 p99 |
| 闭环 |
45 |
0 |
151 ms |
| 开环 |
120 |
57 |
1,211 ms |
发压工具怎样落实到达模型
| 工具 |
控制面 |
需要单独核对的指标 |
| k6 |
固定 VU 或 arrival-rate 执行器 |
目标单位是迭代,空闲 VU 用完时看 dropped_iterations |
| JMeter |
线程组、定时器与 Open Model Thread Group |
用 CLI 跑负载,Precise Throughput Timer 调节现有线程,线程不足时会低于目标 |
| Gatling |
injectOpen 注入用户到达,injectClosed 控制并发用户 |
用户启动速率与单用户场景里的请求数分别计数 |
| Locust |
用户任务配合等待模型调节任务速率 |
constant_throughput 约束任务节奏,任务超出时间预算时实际速率下降 |
以 k6 为例,任务变慢会占住更多 VU,也可能在机器资源还有余量时造成漏发。先用稳定的轻量目标校准压测机 CPU、连接数和网卡,再将「计划、脚本实际启动、目标入口收到」并排。单纯的 check 失败不会让 k6 退出非零。把业务检查指标设为 threshold,命令退出状态才会反映这一验收条件。HTTP 请求的 http_req_duration 包含发送、等待、接收,连接相关开销和跨请求的业务用时应另行观测。k6 执行器 · 丢弃迭代 · 指标 · 阈值
工具选择先看要控制的单位和脚本里的状态,再看分布式发压的运行成本。脚本能稳定对着轻量目标发出所需负载,才有资格把入口速率变平归因到真正的被测系统。JMeter 最佳实践 · JMeter 组件参考 · Gatling 注入模型 · Locust 任务模型
系列导航