聪明世界#72
编程偏弱
记性200K
便宜$15
记性换算成体感:一次能读完一本《三体》
Claude Sonnet 系列的视觉模型 · 按发布时间
共 9 个 · 这里是相邻的 7 个 · Anthropic的全部模型 →他的房间
电脑
71.3% · SWE-bench Verified · Epoch AI 统一复跑
书架
3 层 · 记忆 200K tokens
黑板
数学与科学推理
日历
知识停在 2025-07-31
冰箱
支持上下文缓存,能存记忆
门禁
闭源,权重不公开
身世
- 发布日期
- 2025 年 9 月 29 日models.dev
- 知识截止
- 2025-07-31
- 参数量
- 体型为估算值,官方从未公布参数量
- 开放权重
- 否
- 开源许可
- 暂无数据
- 上下文窗口
- 200K tokens
- 单次最大输出
- 64K
- 输入价格
- $3.00 / 百万 tokens
- 输出价格
- $15 / 百万 tokens
- 模型类型
- 视觉除了文字还能看图片或视频,输出文字
- 支持的输入
- 图像、文件、文字 → 文字
- 工具调用
- 是
- 深度思考
- 是
- 提示缓存
- 是
战绩
- 综合智力
- 146.8
- AIME 数学
- 77.8%
- GPQA Diamond 科学
- 82.3%
- ARC-AGI-2 抽象推理
- 3.8%
- Fiction.liveBench 长文本
- 未参评
综合智力、数学、科学、抽象推理与长文本数据来自 Epoch AI(CC-BY 4.0)。写「未参赛」的项目表示该模型没有被这项评测收录, 不代表它做不到——本站不会用估算值填补空缺。
编程战绩(按赛制分列)
- SWE-bench Verified71.3%从真实 GitHub 仓库里挑出的 500 个 issue,看模型能不能提交出通过测试的补丁。业界最通行的编程标尺。这一列由 Epoch AI 用统一脚手架复跑。第三方实测https://epoch.ai/benchmarks
- SWE-Bench Pro43.6%同一个思路但难度高得多的版本,题目更长、依赖更复杂。分数普遍比 Verified 低三十分左右,两者不可直接比较。第三方实测https://labs.scale.com/leaderboard/swe_bench_pro_public
- Terminal-Bench 2.046.5%Terminal-Bench 的第二代题库,任务更长更杂。与 1.0 的分数不可直接比较。第三方实测https://epoch.ai/benchmarks
- ALE-Bench796AtCoder 启发式算法竞赛题,考的是给一个没有标准答案的优化问题找出尽量好的解。分数是 137–2177 的评分标度,不是百分比。和「修 bug」是两种能力。第三方实测https://epoch.ai/benchmarks
- AlgoTune1.52×给定一段算法实现,让模型把它调得更快。分数是加速倍率(约 1.3–2 倍),不是百分比。考的是性能调优而不是功能实现。第三方实测https://epoch.ai/benchmarks
- GSO12.7%代码性能优化测试:在保持功能不变的前提下把真实项目跑得更快。第三方实测https://epoch.ai/benchmarks
- WebDev Arena1391 Elo让两个模型各写一个网页,由人来投票选哪个更好,按对战胜负算 Elo 分。考的是前端开发的实际观感,和「能不能修复一个后端 bug」不是一回事。第三方实测https://epoch.ai/benchmarks
这些分数不可互相比较。同一个模型换一套评测脚手架就能差二三十分: SWE-bench Verified 的中位数是 75.7,而难度更高的 SWE-Bench Pro 只有 41.0。 广场上的能力条因此显示的是「在同一把尺子下排第几」,而不是分数本身。
全部成绩(按榜单分列)
名次的分母是在同一个榜、由同一类测量方测过的模型数,不是全站模型数。不同榜的分数不可互相比较。
综合
- 综合智力146.8第 72 / 208Epoch Capabilities Index,把十几项学术评测归并成一个总分。想知道「谁最强」,先看这一栏。第三方实测https://epoch.ai/benchmarks
- SimpleBench54.3%第 42 / 103一套普通人能轻松答对、模型却常常答错的常识题。分数越高越少犯「一看就傻」的错。第三方实测https://simple-bench.com/
数学
- FrontierMath23.9%第 73 / 99由职业数学家出的原创难题,连数学博士都要花几小时甚至几天。分数是解出的比例,能过一成就是前沿水平。第三方实测https://epoch.ai/frontiermath
- FrontierMath(旧版)15.2%第 39 / 95FrontierMath 2025 年初的版本,已被新题库取代。留作历史对照。第三方实测https://epoch.ai/frontiermath
- FrontierMath 第四层2.4%第 59 / 71FrontierMath 里最难的一层,研究级别的问题,绝大多数模型接近零分。第三方实测https://epoch.ai/frontiermath
- FrontierMath 第四层(旧版)4.2%第 26 / 66FrontierMath 第四层 2025 年中的版本,已被新题库取代。第三方实测https://epoch.ai/frontiermath
- AIME 数学77.8%第 95 / 191美国高中数学邀请赛难度的模拟题,是数学竞赛能力的通行标尺。答对比例,满分 100。第三方实测https://epoch.ai/benchmarks
- MATH 五级97.7%第 5 / 91MATH 题库里难度最高的一档,高中竞赛水平。老榜单,顶尖模型早已接近满分。第三方实测https://epoch.ai/benchmarks/math-level-5
- ProofBench19.0%第 41 / 79不是算出答案,而是写出完整证明并由人评判。考的是数学推理的严谨程度。第三方实测https://www.vals.ai/benchmarks/proof_bench
知识与推理
- HLE 终极考试13.7%第 26 / 58Humanity's Last Exam,各学科专家出的刁钻题,专为难住模型而设计。能过四成就是当今顶尖。第三方实测https://lastexam.ai/
- GPQA 科学82.3%第 82 / 197博士级别的物理、化学、生物选择题,题目设计到「谷歌也搜不到答案」。随机乱猜是 25 分。第三方实测https://epoch.ai/benchmarks
- ARC-AGI-23.8%第 74 / 108看几组图形样例找规律的智力题,人类轻松、模型艰难。专门测「没见过的题会不会做」。第三方实测https://epoch.ai/benchmarks
- ARC-AGI(第一代)63.7%第 52 / 107ARC-AGI 的第一代题库,已被第二代取代。第三方实测https://arcprize.org/
- SimpleQA 事实问答30.7%第 68 / 97一问一答的冷门事实题,测的是「知不知道」和「会不会瞎编」。分数低的模型更容易一本正经地胡说。第三方实测https://www.kaggle.com/benchmarks/deepmind/simpleqa-verified
- 深度研究52.6%第 6 / 38给一个开放的研究课题,让模型上网查资料写出报告,由人评质量。第三方实测https://drb.futuresearch.ai
- CritPt 物理1.1%第 76 / 163研究级别的物理问题,由在职物理学家出题。测的是能不能做前沿科研级的推理。第三方实测
- WeirdML47.7%第 64 / 146一批刻意古怪的小型机器学习任务,模型要自己写代码训练并拿到成绩。考的是解决陌生问题的能力。第三方实测https://htihle.github.io/weirdml.html
智能体
- 独立工作时长2.0 小时第 14 / 53METR 的时间跨度:模型能可靠独立完成的任务,换成人来做要花多久。单位是时间,越长说明能独立干越大的活。第三方实测https://metr.org/blog/2025-03-19-measuring-ai-ability-to-complete-long-tasks/
- OSWorld 操作电脑62.9%第 5 / 10在真实的电脑桌面上点鼠标敲键盘完成任务,比如改表格、发邮件。考的是能不能替你操作电脑。第三方实测https://os-world.github.io/
- 经营售货机$3,839第 35 / 89Vending-Bench:让模型经营一台虚拟售货机一整年——进货、定价、付租金。分数是最后账上的钱,考的是长期不犯糊涂。第三方实测https://andonlabs.com/evals/vending-bench
- GDPval 职业任务42.5%第 8 / 22OpenAI 出的一组覆盖多个行业的真实职业任务,由专家把模型的产出与人类专业人士的成果盲比。分数是胜率。第三方实测
- 远程工作指数2.1%第 11 / 18Remote Labor Index:从自由职业平台上取的真实外包项目,看模型能独立交付多少。分数普遍很低,说明离「替代远程工作者」还远。第三方实测
- Cybench 网络安全60.0%第 4 / 19夺旗赛(CTF)风格的网络安全题,测攻防能力。第三方实测https://assets.anthropic.com/m/64823ba7485345a7/Claude-Opus-4-5-System-Card.pdf
多模态
- 视觉物理预测39.8%第 23 / 36VPCT:看一张小球与斜坡的图,预测球会滚进哪个杯子。测视觉直觉物理。第三方实测https://cbrower.dev/vpct
游戏与谜题
- 国际象棋残局12.0%第 92 / 156给一个棋局找出最佳着法。分数是解对的比例,随机乱走约 5 分。第三方实测https://epoch.ai/benchmarks/chess-puzzles
- 推理游戏谜题17.0%第 54 / 91Epoch 自建的一组推理小游戏,测的是在规则未知的环境里摸索规律。第三方实测https://epoch.ai/benchmarks
- EnigmaEval6.0%第 27 / 51解谜比赛里的复杂谜题,通常要综合图像、文字和多步推理。第三方实测https://labs.scale.com/leaderboard/enigma_eval
- EBR-bench2.4%第 25 / 27Epoch 自建的一项评测,具体口径以 Epoch 榜单页说明为准。第三方实测https://epoch.ai/benchmarks
其他
- Dtbench83.2%第 67 / 198Epoch AI 收录的评测,暂无中文说明。第三方实测https://conceptualreasoning.ai/dtbench
- Lmca38.8%第 49 / 183Epoch AI 收录的评测,暂无中文说明。第三方实测https://conceptualreasoning.ai/lmca