续读
#Anthropic Courses:Prompt evaluations
来源说明
Anthropic 官方提示词评估课,九课,从评估入门到 Promptfoo 与模型打分。
一句话核心观点
提示词和 Agent 必须被写成可测试的东西:先有例子和评分方式,再谈优化。
要点精读
- 第一课 Evaluations 101 建立共同语言:你到底在测正确性、格式、安全性,还是风格?
- 第二课用 Anthropic Workbench 做人工评分,先让人的判断标准变清楚,再自动化。
- 第三、四课进入代码评分和分类评估,适合有明确对错或固定类别的任务。
- 第五到九课系统引入 Promptfoo:从入门、分类、自定义评分器,到模型评分以及自定义模型评分。
- 「模型给模型打分」很强大,但也有偏好和不稳定,必须用抽查和黄金集校准。
- 评估集要比你的演示例子更狠:要包含边界、恶意输入、空输入和易幻觉的问题。
- 改提示词之后必须回归测试,否则你只是在用新的失败替换旧的失败。
- 这门课是把「感觉变好了」变成「分数提高了」的分水岭,也是职业学习者与爱好者的分界。
对「学好 AI」的实操启发
给你的个人 Agent 先做 20 条黄金测试题,覆盖正确、拒绝、格式和安全。每改一次提示词或工具,就重跑这 20 条。不必一开始就上复杂框架,表格加脚本也够。
短引(转述)
课程说明指出,九课将教你在 Anthropic API 工作流中成功实施评估所需的一切,并应从 Evaluations 101 学起。
出处:prompt_evaluations/README.md。