跳到正文

Claude Fable 在 BU Bench 上创下高分

我们使用开源的 Browser Use 库在 BU Bench 上运行了 Claude Fable 5。它取得了 80% 的得分,胜过所有其他模型。

本文目录文章开头
部分图表可能显示不完整

Anthropic 的新 Claude Fable 5 模型在 BU Bench V1 上使用开源的 Browser Use 库取得了 80.0% 的成绩。这一高分比排名第二的模型 GPT 5.5 高出 12 分。

这一结果的代价高昂:100 个任务的 API 成本为 $580.87。

BU Bench 测试浏览器智能体能否完成真实的网络任务。它要求智能体处理多步导航、搜索、信息提取、表单填写、动态 UI 交互、iframe、PDF、下载文件,以及跨实时网站的综合处理。其任务、代码和模型得分可在此处查看。

以下是 Claude Fable 5 与其他开源和闭源模型的对比。

BU Bench V1 focused Browser Use model comparison with provider-colored bars and claude-fable-5 scoring 80 percent BU Bench V1 focused Browser Use model comparison with provider-colored bars and claude-fable-5 scoring 80 percent

结果文章图表

Fable 通过了 100 个任务中的 80 个。在 20 个失败任务中,16 个被判定为错误,4 个触发了 30 分钟的任务超时。任务平均耗时 6 分 53 秒。

这意味着 Fable 的单任务速度慢于 GPT 5.5、Opus 4.7 和 BU 2.0,但快于 Gemini 3 Pro、Qwen 3.6 Plus、Kimi K2.6 和 DeepSeek V4 Pro。

BU Bench V1 Browser Use model success versus throughput chart for the selected comparison set BU Bench V1 Browser Use model success versus throughput chart for the selected comparison set

成本对比清楚地显示了这种权衡。

BU Bench V1 score versus API cost chart with claude-fable-5 far more expensive than other models BU Bench V1 score versus API cost chart with claude-fable-5 far more expensive than other models

Fable 完成了许多长时研究和浏览任务,而这些任务通常用于区分更强和更弱的网络智能体。这些任务需要遵循多步推理、检查约束条件,并返回结构化答案,而不是从页面中提取答案。

失败模式文章图表

Fable 的失败主要源于三个问题:它提取了错误的事实或选择了错误的实体;它无法充分访问或搜索某个来源;或者它给出的答案没有得到追踪记录的完全支持。

这与 GPT 5.5 的失败模式不同。GPT 5.5 失败了 32 个任务,通常是多部分任务未完成。Fable 在这些相同的任务中失败了 9 个,通过了其余 23 个。共同的失败往往涉及脆弱的来源访问、多步研究任务或难以搜索的页面。

Fable 也有自己的失败。在少数情况下,最终答案从追踪记录来看似乎合理,但仍与基准答案不一致。

Fable 显然更擅长完成复杂的 Browser Use 任务,但其剩余的失败是任何模型都可能出现的。

最终思考文章图表

从我们对 Fable 的初步测试来看,该模型似乎更擅长长时间继续执行复杂任务。它更擅长跟踪约束条件、在不同来源之间切换,并将杂乱的网页转化为最终答案。

浏览器智能体经常以无聊的方式失败。它们点击错误的结果、遗漏一个条件、丢失页面,或在证据不足时就给出答案。更好的模型减少了这些小错误,使网络智能体感觉更可靠、更确定。

成本仍然难以忽视。Fable 远比任何其他模型昂贵。但它以愚蠢方式失败的次数也更少。

关于在更新的 Browser Use Bench v2.1 上的 Claude Fable 5.1,以及每个测试模型旁边的成绩、单任务成本和运行时间,请参阅 Claude Fable 5.1 基准测试。

阅读显示设置

调整正文排版

当前浏览器记住选择,应用于文章正文。手机上正文宽度以屏幕可用空间为限。

图表完整性提示

普通文章遇到图表保存问题时显示提示。