聪明世界#57
编程偏弱
记性128K
便宜$10
记性换算成体感:一次能读完一本中篇小说
GPT 系列的视觉模型 · 按发布时间
共 46 个 · 这里是相邻的 7 个 · OpenAI的全部模型 →他的房间
电脑
68.0% · SWE-bench Verified · Epoch AI 统一复跑
书架
3 层 · 记忆 128K tokens
黑板
数学与科学推理
日历
知识停在 2024-09-30
冰箱
支持上下文缓存,能存记忆
门禁
闭源,权重不公开
身世
- 发布日期
- 2025 年 11 月 13 日models.dev
- 知识截止
- 2024-09-30
- 参数量
- 体型为估算值,官方从未公布参数量
- 开放权重
- 否
- 开源许可
- 暂无数据
- 上下文窗口
- 128K tokens
- 单次最大输出
- 16K
- 输入价格
- $1.25 / 百万 tokens
- 输出价格
- $10 / 百万 tokens
- 模型类型
- 视觉除了文字还能看图片或视频,输出文字
- 支持的输入
- 图像、文字 → 文字
- 工具调用
- 是
- 深度思考
- 是
- 提示缓存
- 是
战绩
- 综合智力
- 149.6
- AIME 数学
- 88.6%
- GPQA Diamond 科学
- 87.6%
- ARC-AGI-2 抽象推理
- 17.6%
- Fiction.liveBench 长文本
- 未参评
综合智力、数学、科学、抽象推理与长文本数据来自 Epoch AI(CC-BY 4.0)。写「未参赛」的项目表示该模型没有被这项评测收录, 不代表它做不到——本站不会用估算值填补空缺。
编程战绩(按赛制分列)
- SWE-bench Verified68.0%从真实 GitHub 仓库里挑出的 500 个 issue,看模型能不能提交出通过测试的补丁。业界最通行的编程标尺。这一列由 Epoch AI 用统一脚手架复跑。第三方实测https://epoch.ai/benchmarks
- Terminal-Bench 2.047.6%Terminal-Bench 的第二代题库,任务更长更杂。与 1.0 的分数不可直接比较。第三方实测https://epoch.ai/benchmarks
- ALE-Bench1192AtCoder 启发式算法竞赛题,考的是给一个没有标准答案的优化问题找出尽量好的解。分数是 137–2177 的评分标度,不是百分比。和「修 bug」是两种能力。第三方实测https://epoch.ai/benchmarks
- GSO12.8%代码性能优化测试:在保持功能不变的前提下把真实项目跑得更快。第三方实测https://epoch.ai/benchmarks
- WebDev Arena1391 Elo让两个模型各写一个网页,由人来投票选哪个更好,按对战胜负算 Elo 分。考的是前端开发的实际观感,和「能不能修复一个后端 bug」不是一回事。第三方实测https://epoch.ai/benchmarks
这些分数不可互相比较。同一个模型换一套评测脚手架就能差二三十分: SWE-bench Verified 的中位数是 75.7,而难度更高的 SWE-Bench Pro 只有 41.0。 广场上的能力条因此显示的是「在同一把尺子下排第几」,而不是分数本身。
全部成绩(按榜单分列)
名次的分母是在同一个榜、由同一类测量方测过的模型数,不是全站模型数。不同榜的分数不可互相比较。
综合
- 综合智力149.6第 57 / 208Epoch Capabilities Index,把十几项学术评测归并成一个总分。想知道「谁最强」,先看这一栏。第三方实测https://epoch.ai/benchmarks
- SimpleBench53.2%第 44 / 103一套普通人能轻松答对、模型却常常答错的常识题。分数越高越少犯「一看就傻」的错。第三方实测https://simple-bench.com/
数学
- FrontierMath(旧版)31.0%第 21 / 95FrontierMath 2025 年初的版本,已被新题库取代。留作历史对照。第三方实测https://epoch.ai/frontiermath
- FrontierMath 第四层(旧版)12.5%第 15 / 66FrontierMath 第四层 2025 年中的版本,已被新题库取代。第三方实测https://epoch.ai/frontiermath
- AIME 数学88.6%第 59 / 191美国高中数学邀请赛难度的模拟题,是数学竞赛能力的通行标尺。答对比例,满分 100。第三方实测https://epoch.ai/benchmarks
知识与推理
- HLE 终极考试23.7%第 17 / 58Humanity's Last Exam,各学科专家出的刁钻题,专为难住模型而设计。能过四成就是当今顶尖。第三方实测https://lastexam.ai/
- GPQA 科学87.6%第 55 / 197博士级别的物理、化学、生物选择题,题目设计到「谷歌也搜不到答案」。随机乱猜是 25 分。第三方实测https://epoch.ai/benchmarks
- ARC-AGI-217.6%第 44 / 108看几组图形样例找规律的智力题,人类轻松、模型艰难。专门测「没见过的题会不会做」。第三方实测https://epoch.ai/benchmarks
- ARC-AGI(第一代)72.8%第 45 / 107ARC-AGI 的第一代题库,已被第二代取代。第三方实测https://arcprize.org/
- SimpleQA 事实问答48.0%第 29 / 97一问一答的冷门事实题,测的是「知不知道」和「会不会瞎编」。分数低的模型更容易一本正经地胡说。第三方实测https://www.kaggle.com/benchmarks/deepmind/simpleqa-verified
- 深度研究42.8%第 24 / 38给一个开放的研究课题,让模型上网查资料写出报告,由人评质量。第三方实测
- CritPt 物理4.9%第 51 / 163研究级别的物理问题,由在职物理学家出题。测的是能不能做前沿科研级的推理。第三方实测
- WeirdML60.8%第 32 / 146一批刻意古怪的小型机器学习任务,模型要自己写代码训练并拿到成绩。考的是解决陌生问题的能力。第三方实测https://htihle.github.io/weirdml.html
智能体
- 经营售货机$1,473第 48 / 89Vending-Bench:让模型经营一台虚拟售货机一整年——进货、定价、付租金。分数是最后账上的钱,考的是长期不犯糊涂。第三方实测https://andonlabs.com/evals/vending-bench
- APEX 专业任务17.5%第 36 / 77投行、律所、咨询公司的真实工作任务,由业内专家出题与评分。第三方实测
长文本
- CL-bench 长上下文23.7%第 2 / 40在很长的上下文里做推理与检索,测的是长文本的实际可用程度。第三方实测
- CL-bench 生活版17.3%第 3 / 29CL-bench 的日常生活场景分支。第三方实测
多模态
- 视觉物理预测58.7%第 9 / 36VPCT:看一张小球与斜坡的图,预测球会滚进哪个杯子。测视觉直觉物理。第三方实测https://cbrower.dev/vpct
游戏与谜题
- 国际象棋残局32.0%第 33 / 156给一个棋局找出最佳着法。分数是解对的比例,随机乱走约 5 分。第三方实测https://epoch.ai/benchmarks/chess-puzzles
- 推理游戏谜题19.0%第 45 / 91Epoch 自建的一组推理小游戏,测的是在规则未知的环境里摸索规律。第三方实测https://epoch.ai/benchmarks
- EnigmaEval11.2%第 12 / 51解谜比赛里的复杂谜题,通常要综合图像、文字和多步推理。第三方实测https://labs.scale.com/leaderboard/enigma_eval
其他
- Dtbench90.1%第 38 / 198Epoch AI 收录的评测,暂无中文说明。第三方实测https://conceptualreasoning.ai/dtbench
- Lmca43.9%第 34 / 183Epoch AI 收录的评测,暂无中文说明。第三方实测https://conceptualreasoning.ai/lmca