Claude Fable 在 BU Bench 上创下高分
我们使用开源的 Browser Use 库在 BU Bench 上运行了 Claude Fable 5。它取得了 80% 的得分,胜过所有其他模型。
Anthropic 的新 Claude Fable 5 模型在 BU Bench V1 上使用开源的 Browser Use 库取得了 80.0% 的成绩。这一高分比排名第二的模型 GPT 5.5 高出 12 分。
这一结果的代价高昂:100 个任务的 API 成本为 $580.87。
BU Bench 测试浏览器智能体能否完成真实的网络任务。它要求智能体处理多步导航、搜索、信息提取、表单填写、动态 UI 交互、iframe、PDF、下载文件,以及跨实时网站的综合处理。其任务、代码和模型得分可在此处查看。
以下是 Claude Fable 5 与其他开源和闭源模型的对比。
结果
Fable 通过了 100 个任务中的 80 个。在 20 个失败任务中,16 个被判定为错误,4 个触发了 30 分钟的任务超时。任务平均耗时 6 分 53 秒。
这意味着 Fable 的单任务速度慢于 GPT 5.5、Opus 4.7 和 BU 2.0,但快于 Gemini 3 Pro、Qwen 3.6 Plus、Kimi K2.6 和 DeepSeek V4 Pro。
成本对比清楚地显示了这种权衡。
Fable 完成了许多长时研究和浏览任务,而这些任务通常用于区分更强和更弱的网络智能体。这些任务需要遵循多步推理、检查约束条件,并返回结构化答案,而不是从页面中提取答案。
失败模式
Fable 的失败主要源于三个问题:它提取了错误的事实或选择了错误的实体;它无法充分访问或搜索某个来源;或者它给出的答案没有得到追踪记录的完全支持。
这与 GPT 5.5 的失败模式不同。GPT 5.5 失败了 32 个任务,通常是多部分任务未完成。Fable 在这些相同的任务中失败了 9 个,通过了其余 23 个。共同的失败往往涉及脆弱的来源访问、多步研究任务或难以搜索的页面。
Fable 也有自己的失败。在少数情况下,最终答案从追踪记录来看似乎合理,但仍与基准答案不一致。
Fable 显然更擅长完成复杂的 Browser Use 任务,但其剩余的失败是任何模型都可能出现的。
最终思考
从我们对 Fable 的初步测试来看,该模型似乎更擅长长时间继续执行复杂任务。它更擅长跟踪约束条件、在不同来源之间切换,并将杂乱的网页转化为最终答案。
浏览器智能体经常以无聊的方式失败。它们点击错误的结果、遗漏一个条件、丢失页面,或在证据不足时就给出答案。更好的模型减少了这些小错误,使网络智能体感觉更可靠、更确定。
成本仍然难以忽视。Fable 远比任何其他模型昂贵。但它以愚蠢方式失败的次数也更少。
关于在更新的 Browser Use Bench v2.1 上的 Claude Fable 5.1,以及每个测试模型旁边的成绩、单任务成本和运行时间,请参阅 Claude Fable 5.1 基准测试。