从模型评测到系统评测:OpenAI 与 Anthropic 怎么搭能力评测体系
一项评测得到的分数,并不只属于模型——它属于 模型 + agent harness + 工具与环境 + 预算 + 任务集 + grader + 运行协议 的完整组合。改变其中任何一项,分数都会变化。这不是 agent 出现以后才成立的道理;但 agent 任务把这个事实从"可忽略的实现细节"变成了"一阶变量"。 本文综合了两份关键资料:OpenAI 发布的第三方评测 playbook(侧重"如何做出可信的能力声明")和 Anthropic 的 agent eval 工程指南(侧重 task / trial / grader / transcript / outcome 的实操分类体系)。两份文档指向同一个工程事实:评测结果应当绑定到一个有版本号的被测系统,而不仅仅是一个模型名字。在此基础上,本文还补充了两块内容:LLM-as-Judge 的实操落地指南,以及一个知识增强型开发工作流的评测案例。 本文结构:先建立术语共识(§词汇表),再拆解评测体系的三个层次(§全景),然后分别梳理 OpenAI 和 Anthropic 的...
深入 Hadoop 05 - HDFS HA 与脑裂防御
上一篇讲了 NameNode 单点的元数据持久化机制——FSImage + EditLog。本篇展开 HDFS HA 怎么解决 NameNode 单点问题。 HDFS HA 常被介绍成"两个 NameNode 互为热备"。这个描述对应了部署形态但掩盖了关键机制。准确的说法是:HDFS HA 把原来由 Active NameNode 独占写的 EditLog 拆出来放到 3 个 JournalNode 组成的多数派集群上,Active NameNode 每次写 EditLog 都要等多数派 JournalNode 确认。Standby NameNode 实时 tail 这个共享 EditLog,与 Active 保持内存同步。Active NameNode 宕机时,Standby NameNode 接管前必须先确保旧的 Active 被隔离,防止两个 NameNode 同时声称自己是 Active(脑裂)。 本篇只抓一个问题:Quorum Journal Manager 怎么工作、ZKFC 怎么检测 NameNode 健康、为什么脑裂是 HA 系统的头号敌人以及...
深入 Hadoop 04 - NameNode 内存模型与启动恢复
上一篇讲了读写路径。本篇展开 NameNode 内存里的元数据结构,以及 NameNode 启动时怎么把磁盘上的元数据恢复成内存镜像。 NameNode 常被描述成"HDFS 的元数据节点"。这个描述对应了职责但没解释机制。准确的说法是:NameNode 是一个把全部元数据驻留内存的进程,磁盘上同时维护两份互补的持久化文件——FSImage 是元数据镜像快照,EditLog 是镜像之后的增量操作日志,启动时把 FSImage 加载进内存、重放 EditLog,恢复到宕机前的最终状态。 本篇只抓一个问题:NameNode 内存里到底有哪些数据结构、FSImage 和 EditLog 是怎么配合的、为什么 NameNode 启动要进入 Safe Mode 等待块报告。 NameNode 内存里的六大数据结构 打开 NameNode 进程的内存,主要元数据可以分成六块: 1234567891011121314151617181920212223242526┌───────────────────────────────────────────────────────...
深入 Hadoop 03 - 文件读取路径与副本选择
上一篇讲了写入路径——客户端通过 Pipeline 把字节推到三个 DataNode。本篇讲读取路径。 HDFS 读文件常被描述成"客户端从 HDFS 把数据读出来"。这个描述和写路径一样把机制掩盖了。准确的说法是:客户端先问 NameNode 拿 block 列表 + 每个 block 的副本所在 DataNode 列表(按距离排序),然后按距离顺序直连 DataNode 拉取数据,读完后切到下一个 block。任何 DataNode 慢或失败时,客户端透明切换到该 block 的下一个副本。 本篇只抓一个问题:客户端怎么挑副本、本地短路与零拷贝怎么工作、Hedged Read 在什么场景下值得打开。 读取路径的五个步骤 一次完整的 HDFS 读展开成五步: 12345671. open(/path) 客户端调用 NameNode 打开文件2. NameNode 返回:[blk-1 副本列表, blk-2 副本列表, ...] 每个 block 的副本按距离客户端由近到远排序3. 客户端按 block 顺序处理: 3a. 取 blk-N 的副本列表第一个...
深入 Hadoop 02 - 文件写入路径与流水线
上一篇把 HDFS 切成 NameNode、DataNode、Client 三层职责。本篇展开 Client 写文件时的具体路径。 HDFS 写文件常被描述成"客户端把数据写到 HDFS"。这个描述把数据传输机制掩盖了。准确的说法是:客户端通过一个由 NameNode 提前挑选的 DataNode 链(Pipeline)以流水线方式逐包写入数据,每个包从链头流到链尾再返回 ACK,写完一个 block 后客户端向 NameNode 申请新 block。这种 Pipeline + ACK 队列的设计是 HDFS 写入路径的核心抽象,决定了 HDFS 写入吞吐、副本一致性和写入失败恢复的全部行为。 本篇只抓一个问题:客户端写到 HDFS 的字节是怎么一步步落到三个 DataNode 磁盘上的,以及为什么 HDFS 选择 Pipeline 而不是客户端并行写三份。 写入路径的六个步骤 把一次完整的 HDFS 写入展开,可以拆成六个步骤: 1234561. create() 客户端调用 NameNode 创建文件元数据2. addBlock() 客户端向 NameNo...
深入 Hadoop 01 - HDFS 架构与三层切分
上一篇把 Hadoop 整体压成一句话:以"节点总会失败"为前提,HDFS 切大文件、YARN 切资源、MapReduce 切计算。本篇进入 HDFS。 HDFS 常被介绍为"分布式文件系统"。这个说法没错但不够准确。准确的说法是:HDFS 是一个把元数据、数据块、节点监控切成三层独立职责的分布式文件系统。三层职责分离是 HDFS 设计的核心抽象,决定了 HDFS 的所有后续行为——为什么元数据全内存、为什么写文件要 Pipeline、为什么读文件可以就近选副本、为什么 NameNode 是单点。 本篇只抓一个问题:NameNode、DataNode、客户端这三层职责是怎么切开的,以及这种切法为什么会让 HDFS 长成现在的样子。 三层职责切分 HDFS 的架构可以用一张三层图概括: 1234567891011121314151617181920212223┌─────────────────────────────────────────────────────────────────┐│ NameNod...
深入 Hadoop 00 - 导读:节点总会失败
Hadoop 常被介绍为"HDFS + YARN + MapReduce 三驾马车"。这个分类把重点放错了位置。把存储、调度、计算切成三件独立的事情,读者很难回答下面这个问题:为什么这三个子系统会一起出现在同一个项目里,而不是像 Spark、Flink、Kafka 那样作为独立组件存在? 更准确的说法是:Hadoop 是一组关于"如何构建运行在大量廉价节点上的分布式系统"的前提假设在三个不同层面的具体化。这组前提把整个项目串成一条主线——节点总会失败、数据总是巨大、廉价比专用更重要。HDFS、YARN、MapReduce 各自处理这组前提下的一个子问题:HDFS 把大文件切成块并多副本放置,YARN 把集群资源切成容器并按策略分配,MapReduce 把大计算切成任务并按失败重试执行。 本系列只抓一个问题:Hadoop 这套以"节点总会失败"为前提假设的工程化方案,在 HDFS、YARN、MapReduce 三个层面是如何具体实现的,每个实现里有哪些可以迁移到其他分布式系统的设计模式。 GFS 论文留下的设计遗产 要理解...
各种各样的 Case:一份工程术语家谱
代码评审、用例设计、算法分析里到处是「XX case」:edge case、corner case、boundary case、happy path、worst case、base case……而且经常被当成同义词换着用。它们其实分布在几条互不相干的轴上,老家也分别在硬件工程、数学、算法分析和需求分析里,没有一个是测试专有的词。把它们各自摆回所属的轴,混淆就散了。 这些「case」大致落在四条轴上:输入空间里的位置、程序执行的场景走向、输入的刁钻程度、递归的收敛结构。 轴一 · 输入空间的位置 把每一个输入参数看成一根坐标轴:数组长度是一根轴,取值范围是一根轴,并发数是一根轴,时间是一根轴……所有参数张成一个高维空间。合法输入落在这个空间内部,被称作正常情况(normal case)。问题往往不出在中间,而出在这个空间的表面、棱和顶点上。 拿一个二维矩形打比方最直观。矩形的内部是正常区域,四条边是它的边界,四个角是两条边的交点。edge 对应边,corner 对应角,这不是巧合。两个术语最早就是从模拟电路和硬件工程的这套几何语言里借来的。 normal case(正常情况) 落...
导读:React 不是模板引擎,是一个渲染调度系统
本文只抓一个问题:React 到底在解决什么问题?答案不是"简化 DOM 操作",而是把 UI 更新从命令式的逐步操作变成声明式的状态映射。理解这个范式转移,是后续所有文章的前提。 同一个需求,两种写法 需求:页面上有一个计数器,点击按钮数字加一。 jQuery 写法: 12345678910// jQuery:告诉浏览器"怎么做"$(document).ready(function() { let count = 0; $('#counter').text(count); $('#increment').click(function() { count++; $('#counter').text(count); // 手动把新值写到 DOM });}); React 写法: 1234567891011// React:告诉框架"应该是什么样"function Counter() { co...
导读:TypeScript 不是给 JavaScript 加注解,是给 JavaScript 加类型系统
本文只抓一个问题:TypeScript 到底在 JavaScript 之上加了什么?答案不是"类型注解",而是一整套结构化类型系统。理解这个区别,是后续所有文章的前提。 一个反直觉的例子 123456789101112interface Cat { name: string; meow(): void;}interface Dog { name: string; meow(): void;}const dog: Dog = { name: "Buddy", meow() { console.log("woof?"); } };const cat: Cat = dog; // 编译通过,没有任何警告 Cat 和 Dog 是两个完全不同的 interface,名字不同,语义不同,但 TypeScript 认为它们可以互相赋值。 把同样的事情放到 Java 里: 12345interface Cat { String getNam...






