聪明世界#165
编程偏弱
记性200K
便宜$15
记性换算成体感：一次能读完一本《三体》
Claude Sonnet 系列的视觉模型 · 按发布时间
共 9 个 · 这里是相邻的 7 个 · Anthropic的全部模型 →他的房间
电脑
没有公开的编程评测成绩
书架
3 层 · 记忆 200K tokens
黑板
数学与科学推理
日历
知识停在 2024-04-30
冰箱
支持上下文缓存，能存记忆
门禁
闭源，权重不公开
身世
- 发布日期
- 2024 年 10 月 22 日models.dev
- 知识截止
- 2024-04-30
- 参数量
- 体型为估算值，官方从未公布参数量
- 开放权重
- 否
- 开源许可
- 暂无数据
- 上下文窗口
- 200K tokens
- 单次最大输出
- 8K
- 输入价格
- $3.00 / 百万 tokens
- 输出价格
- $15 / 百万 tokens
- 模型类型
- 视觉除了文字还能看图片或视频，输出文字
- 支持的输入
- 图像、文件、文字 → 文字
- 工具调用
- 是
- 深度思考
- 否
- 提示缓存
- 是
战绩
- 综合智力
- 130.0
- AIME 数学
- 8.5%
- GPQA Diamond 科学
- 55.3%
- ARC-AGI-2 抽象推理
- 未参评
- Fiction.liveBench 长文本
- 未参评
综合智力、数学、科学、抽象推理与长文本数据来自 Epoch AI（CC-BY 4.0）。写「未参赛」的项目表示该模型没有被这项评测收录， 不代表它做不到——本站不会用估算值填补空缺。
编程战绩（按赛制分列）
- Aider Polyglot51.6%多语言代码编辑测试，看模型能不能按要求准确改动已有代码。榜单已停更在 2025 年底，只覆盖那之前的模型。第三方实测https://aider.chat/docs/leaderboards/#polyglot-leaderboard
- LiveBench 编程分项73.9%LiveBench 每月换新题以避免污染，这一列是它的编程分项均分。第三方实测https://livebench.ai/#/?release=2025-04-25
这些分数不可互相比较。同一个模型换一套评测脚手架就能差二三十分： SWE-bench Verified 的中位数是 75.7，而难度更高的 SWE-Bench Pro 只有 41.0。 广场上的能力条因此显示的是「在同一把尺子下排第几」，而不是分数本身。
全部成绩（按榜单分列）
名次的分母是在同一个榜、由同一类测量方测过的模型数，不是全站模型数。不同榜的分数不可互相比较。
综合
- 综合智力130.0第 165 / 208Epoch Capabilities Index，把十几项学术评测归并成一个总分。想知道「谁最强」，先看这一栏。第三方实测https://epoch.ai/benchmarks
- SimpleBench41.4%第 62 / 103一套普通人能轻松答对、模型却常常答错的常识题。分数越高越少犯「一看就傻」的错。第三方实测https://simple-bench.com/
数学
- FrontierMath（旧版）2.1%第 68 / 95FrontierMath 2025 年初的版本，已被新题库取代。留作历史对照。第三方实测https://epoch.ai/frontiermath
- FrontierMath 第四层（旧版）0.0%第 51 / 66FrontierMath 第四层 2025 年中的版本，已被新题库取代。第三方实测https://epoch.ai/frontiermath
- AIME 数学8.5%第 154 / 191美国高中数学邀请赛难度的模拟题，是数学竞赛能力的通行标尺。答对比例，满分 100。第三方实测https://epoch.ai/benchmarks
- MATH 五级57.0%第 52 / 91MATH 题库里难度最高的一档，高中竞赛水平。老榜单，顶尖模型早已接近满分。第三方实测https://epoch.ai/benchmarks/math-level-5
知识与推理
- HLE 终极考试4.1%第 52 / 58Humanity's Last Exam，各学科专家出的刁钻题，专为难住模型而设计。能过四成就是当今顶尖。第三方实测https://lastexam.ai/
- GPQA 科学55.3%第 148 / 197博士级别的物理、化学、生物选择题，题目设计到「谷歌也搜不到答案」。随机乱猜是 25 分。第三方实测https://epoch.ai/benchmarks
- MMLU87.3%第 3 / 44横跨 57 个学科的大学水平选择题，曾是最通行的知识广度标尺。如今顶尖模型已接近饱和。第三方实测https://crfm.stanford.edu/helm/lite/latest/#/leaderboard/mmlu
- WeirdML40.0%第 94 / 146一批刻意古怪的小型机器学习任务，模型要自己写代码训练并拿到成绩。考的是解决陌生问题的能力。第三方实测https://htihle.github.io/weirdml.html
智能体
- 独立工作时长21 分钟第 41 / 53METR 的时间跨度：模型能可靠独立完成的任务，换成人来做要花多久。单位是时间，越长说明能独立干越大的活。第三方实测https://metr.org/blog/2025-03-19-measuring-ai-ability-to-complete-long-tasks/
- 虚拟公司实习24.0%第 16 / 24TheAgentCompany：在一家模拟的软件公司里干活——查文档、发消息、写代码、填表。考的是当员工的综合本事。第三方实测https://github.com/TheAgentCompany/experiments/tree/main/evaluation/1.0.0/20241217_OpenHands-0.14.2-sonnet-20241022
- Cybench 网络安全17.5%第 14 / 19夺旗赛（CTF）风格的网络安全题，测攻防能力。第三方实测https://cybench.github.io/
- CAD 建模48.0%第 7 / 17按文字描述生成三维 CAD 模型，考的是工程建模能力。第三方实测https://willpatrick.xyz/cadevalresults_20250422_095709/
多模态
- 视频理解60.0%第 8 / 8Video-MME：看一段视频回答问题，从几秒的短片到一小时的长片都有。第三方实测https://video-mme.github.io/
- 看图猜地点62.0%第 21 / 29GeoBench：给一张街景照片猜出在哪个国家。测的是视觉细节与地理知识。第三方实测https://geobench.org/
- 视觉物理预测33.0%第 36 / 36VPCT：看一张小球与斜坡的图，预测球会滚进哪个杯子。测视觉直觉物理。第三方实测https://cbrower.dev/vpct
游戏与谜题
- BALROG 游戏32.6%第 15 / 41玩 NetHack、我的世界之类的文字或像素游戏，看能推进多少进度。第三方实测https://balrogai.com/
- EnigmaEval0.9%第 44 / 51解谜比赛里的复杂谜题，通常要综合图像、文字和多步推理。第三方实测https://labs.scale.com/leaderboard/enigma_eval
写作
- 创意写作80.3%第 29 / 60Lech Mazur 的短篇写作评测：按给定元素写故事，由多个模型交叉评分。分数是 0–10 的均分换算成百分制。第三方实测https://github.com/lechmazur/Writing
其他
- Dtbench67.8%第 130 / 198Epoch AI 收录的评测，暂无中文说明。第三方实测https://conceptualreasoning.ai/dtbench