一个固定线程数的脚本压到后端变慢,压测端却自动减少了新请求。对交互会话,这可能正好模拟了用户在等待。对独立到达的回调,这相当于在故障时擅自改低了输入。两种负载的核心区别是新工作由谁触发。Schroeder 等,《Open Versus Closed: A Cautionary Tale》

开环控制到达,闭环控制会话数

到达模型 新工作如何开始 适用的计量对象
闭环 有空闲会话,上一轮完成并经过思考时间 固定数量的在线客户端或会话
开环 外部时间表决定何时启动,与上一轮完成独立 网关新进流量、定时触发、独立回调
混合 外部持续产生会话,会话内部按业务顺序运行 有状态购物漏斗与开放流量并存

闭环在稳定、每用户同一时刻一笔工作时,可以粗估吞吐为「并发用户数 /(平均响应时间 + 平均思考时间)」。开环允许固定间隔、随机到达或复刻历史尖峰。固定 1,000 次迭代/秒也只规定了脚本启动次数,迭代含多少请求,还要看脚本和业务响应。

如果应持续到来的工作因为采样工具等待前一次响应而跳过,就出现了常说的协调遗漏(coordinated omission)。没有发出的等待无法从已有响应样本中还原。wrk2 以预定发出时刻为计时起点来包含调度滞后。HdrHistogram 按预期间隔补样是在指定假设下对分布的估计,需要保留原始分布和漏发计数才能判断实验有效性。wrk2 实现说明 · HdrHistogram 说明

同一组工作槽的到达实验

将代码保存为 load-model.cjs,用 Node.js 22 执行 node load-model.cjs。它只调用本机计时器。四个工作槽平时各需 50 ms,试验中从 1.2 秒到 3.6 秒开始执行的作业各需 150 ms。闭环有三个会话,思考时间 10 ms。开环每 20 ms 安排一次提交。正常阶段两者的计划量级接近每秒 50 个。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
const { performance } = require('node:perf_hooks');
const { setTimeout: sleep } = require('node:timers/promises');

const durationMs = 4800;
const slowFromMs = 1200;
const slowUntilMs = 3600;

function makeTarget(started) {
let busy = 0;
let peakQueue = 0;
const queue = [];

function dispatch() {
while (busy < 4 && queue.length > 0) {
const complete = queue.shift();
busy += 1;
const age = performance.now() - started;
const serviceMs = age >= slowFromMs && age < slowUntilMs ? 150 : 50;
setTimeout(() => {
busy -= 1;
complete();
dispatch();
}, serviceMs);
}
}

return {
submit() {
return new Promise(resolve => {
queue.push(resolve);
dispatch();
peakQueue = Math.max(peakQueue, queue.length);
});
},
peakQueue: () => peakQueue,
};
}

function p99(values) {
if (values.length === 0) return null;
const ordered = values.toSorted((a, b) => a - b);
return Math.round(ordered[Math.ceil(0.99 * ordered.length) - 1]);
}

async function run(mode) {
const started = performance.now();
const target = makeTarget(started);
const samples = [];
let plannedOpen = null;

async function submit(planned) {
const issued = performance.now();
await target.submit();
const finished = performance.now();
samples.push({
planned: planned - started,
issued: issued - started,
responseMs: finished - issued,
scheduledMs: finished - planned,
});
}

if (mode === 'open') {
const pending = [];
for (let offset = 0; offset < durationMs; offset += 20) {
const planned = started + offset;
const remaining = planned - performance.now();
if (remaining > 0) await sleep(remaining);
pending.push(submit(planned));
}
plannedOpen = pending.length;
await Promise.all(pending);
} else {
const clients = Array.from({ length: 3 }, async () => {
while (performance.now() - started < durationMs) {
await submit(performance.now());
await sleep(10);
}
});
await Promise.all(clients);
}

const slowWindow = samples.filter(({ planned }) =>
planned >= slowFromMs && planned < slowUntilMs
);
console.log({
mode,
plannedOpen,
completed: samples.length,
slowWindowStarts: slowWindow.length,
peakQueue: target.peakQueue(),
responseP99Ms: p99(slowWindow.map(row => row.responseMs)),
scheduledP99Ms: p99(slowWindow.map(row => row.scheduledMs)),
maxScheduleLagMs: Math.ceil(Math.max(...samples.map(row =>
row.issued - row.planned
))),
});
}

async function main() {
await run('closed');
await run('open');
}

main().catch(error => {
console.error(error);
process.exitCode = 1;
});

开环在变慢窗口仍安排 120 次,产生队列。闭环每个会话等待完成,变慢窗口的启动次数会下降,且三个会话占不满四个工作槽。比较 slowWindowStarts 与 peakQueue 能看到延迟分布发生变化的原因。这里按计划启动时间归属样本,在发压结束后仍等待已提交作业完成。脚本用延后发送保留全部计划工作,主机计时器出现抖动时可从 maxScheduleLagMs 看出滞后。它省去了网络、定长队列、超时和拒绝,只用于展示到达与排队的关系。

本地一次运行的慢窗口结果如下。毫秒级计时器受主机调度影响,复跑时主要比较启动量和队列的变化。

到达模型 慢窗口启动数 峰值排队数 慢窗口响应 p99
闭环 45 0 151 ms
开环 120 57 1,211 ms

发压工具怎样落实到达模型

工具 控制面 需要单独核对的指标
k6 固定 VU 或 arrival-rate 执行器 目标单位是迭代,空闲 VU 用完时看 dropped_iterations
JMeter 线程组、定时器与 Open Model Thread Group 用 CLI 跑负载,Precise Throughput Timer 调节现有线程,线程不足时会低于目标
Gatling injectOpen 注入用户到达,injectClosed 控制并发用户 用户启动速率与单用户场景里的请求数分别计数
Locust 用户任务配合等待模型调节任务速率 constant_throughput 约束任务节奏,任务超出时间预算时实际速率下降

以 k6 为例,任务变慢会占住更多 VU,也可能在机器资源还有余量时造成漏发。先用稳定的轻量目标校准压测机 CPU、连接数和网卡,再将「计划、脚本实际启动、目标入口收到」并排。单纯的 check 失败不会让 k6 退出非零。把业务检查指标设为 threshold,命令退出状态才会反映这一验收条件。HTTP 请求的 http_req_duration 包含发送、等待、接收,连接相关开销和跨请求的业务用时应另行观测。k6 执行器 · 丢弃迭代 · 指标 · 阈值

工具选择先看要控制的单位和脚本里的状态,再看分布式发压的运行成本。脚本能稳定对着轻量目标发出所需负载,才有资格把入口速率变平归因到真正的被测系统。JMeter 最佳实践 · JMeter 组件参考 · Gatling 注入模型 · Locust 任务模型

系列导航

上一篇 系列目录 下一篇
从业务漏斗推导负载 深入压测 怎样划定全链路边界