聪明世界#170
编程入门
记性128K
便宜$10
记性换算成体感:一次能读完一本中篇小说
GPT 系列的视觉模型 · 按发布时间
共 46 个 · 这里是相邻的 7 个 · OpenAI的全部模型 →他的房间
电脑
31.0% · SWE-bench Verified · Epoch AI 统一复跑
书架
3 层 · 记忆 128K tokens
黑板
数学与科学推理
日历
知识停在 2023-09
冰箱
支持上下文缓存,能存记忆
门禁
闭源,权重不公开
身世
- 发布日期
- 2024 年 8 月 6 日models.dev
- 知识截止
- 2023-09
- 参数量
- 体型为估算值,官方从未公布参数量
- 开放权重
- 否
- 开源许可
- 暂无数据
- 上下文窗口
- 128K tokens
- 单次最大输出
- 16K
- 输入价格
- $2.50 / 百万 tokens
- 输出价格
- $10 / 百万 tokens
- 模型类型
- 视觉除了文字还能看图片或视频,输出文字
- 支持的输入
- 图像、文字 → 文字
- 工具调用
- 是
- 深度思考
- 否
- 提示缓存
- 是
战绩
- 综合智力
- 129.0
- AIME 数学
- 6.4%
- GPQA Diamond 科学
- 49.2%
- ARC-AGI-2 抽象推理
- 0.0%
- Fiction.liveBench 长文本
- 未参评
综合智力、数学、科学、抽象推理与长文本数据来自 Epoch AI(CC-BY 4.0)。写「未参赛」的项目表示该模型没有被这项评测收录, 不代表它做不到——本站不会用估算值填补空缺。
编程战绩(按赛制分列)
- SWE-bench Verified31.0%从真实 GitHub 仓库里挑出的 500 个 issue,看模型能不能提交出通过测试的补丁。业界最通行的编程标尺。这一列由 Epoch AI 用统一脚手架复跑。第三方实测https://epoch.ai/benchmarks
- Aider Polyglot23.1%多语言代码编辑测试,看模型能不能按要求准确改动已有代码。榜单已停更在 2025 年底,只覆盖那之前的模型。第三方实测https://aider.chat/docs/leaderboards/#polyglot-leaderboard
这些分数不可互相比较。同一个模型换一套评测脚手架就能差二三十分: SWE-bench Verified 的中位数是 75.7,而难度更高的 SWE-Bench Pro 只有 41.0。 广场上的能力条因此显示的是「在同一把尺子下排第几」,而不是分数本身。
全部成绩(按榜单分列)
名次的分母是在同一个榜、由同一类测量方测过的模型数,不是全站模型数。不同榜的分数不可互相比较。
综合
- 综合智力129.0第 170 / 208Epoch Capabilities Index,把十几项学术评测归并成一个总分。想知道「谁最强」,先看这一栏。第三方实测https://epoch.ai/benchmarks
- SimpleBench17.8%第 98 / 103一套普通人能轻松答对、模型却常常答错的常识题。分数越高越少犯「一看就傻」的错。第三方实测https://simple-bench.com/
数学
- FrontierMath0.3%第 93 / 99由职业数学家出的原创难题,连数学博士都要花几小时甚至几天。分数是解出的比例,能过一成就是前沿水平。第三方实测https://epoch.ai/frontiermath
- FrontierMath(旧版)0.3%第 86 / 95FrontierMath 2025 年初的版本,已被新题库取代。留作历史对照。第三方实测https://epoch.ai/frontiermath
- AIME 数学6.4%第 166 / 191美国高中数学邀请赛难度的模拟题,是数学竞赛能力的通行标尺。答对比例,满分 100。第三方实测https://epoch.ai/benchmarks
- MATH 五级53.3%第 54 / 91MATH 题库里难度最高的一档,高中竞赛水平。老榜单,顶尖模型早已接近满分。第三方实测https://epoch.ai/benchmarks/math-level-5
知识与推理
- HLE 终极考试2.7%第 55 / 58Humanity's Last Exam,各学科专家出的刁钻题,专为难住模型而设计。能过四成就是当今顶尖。第三方实测https://lastexam.ai/
- GPQA 科学49.2%第 153 / 197博士级别的物理、化学、生物选择题,题目设计到「谷歌也搜不到答案」。随机乱猜是 25 分。第三方实测https://epoch.ai/benchmarks
- ARC-AGI-20.0%第 95 / 108看几组图形样例找规律的智力题,人类轻松、模型艰难。专门测「没见过的题会不会做」。第三方实测https://epoch.ai/benchmarks
- ARC-AGI(第一代)4.5%第 100 / 107ARC-AGI 的第一代题库,已被第二代取代。第三方实测https://arcprize.org/leaderboard
- SimpleQA 事实问答26.0%第 75 / 97一问一答的冷门事实题,测的是「知不知道」和「会不会瞎编」。分数低的模型更容易一本正经地胡说。第三方实测https://www.kaggle.com/benchmarks/deepmind/simpleqa-verified
- MMLU84.3%第 18 / 44横跨 57 个学科的大学水平选择题,曾是最通行的知识广度标尺。如今顶尖模型已接近饱和。第三方实测https://crfm.stanford.edu/helm/lite/latest/#/leaderboard/mmlu
- CritPt 物理0.0%第 112 / 163研究级别的物理问题,由在职物理学家出题。测的是能不能做前沿科研级的推理。第三方实测
- WeirdML25.1%第 124 / 146一批刻意古怪的小型机器学习任务,模型要自己写代码训练并拿到成绩。考的是解决陌生问题的能力。第三方实测https://htihle.github.io/weirdml.html
- ScienceQA88.5%第 1 / 6中小学科学题,部分带图。早期多模态榜单。第三方实测http://arxiv.org/abs/2404.14219
智能体
- 独立工作时长7.0 分钟第 46 / 53METR 的时间跨度:模型能可靠独立完成的任务,换成人来做要花多久。单位是时间,越长说明能独立干越大的活。第三方实测https://metr.org/
- 虚拟公司实习8.6%第 18 / 24TheAgentCompany:在一家模拟的软件公司里干活——查文档、发消息、写代码、填表。考的是当员工的综合本事。第三方实测https://github.com/TheAgentCompany/experiments/tree/main/evaluation/1.0.0/20241217_OpenHands-0.14.2-gpt-4o-2024-08-06
- APEX 专业任务1.1%第 73 / 77投行、律所、咨询公司的真实工作任务,由业内专家出题与评分。第三方实测
- GDPval 职业任务9.9%第 19 / 22OpenAI 出的一组覆盖多个行业的真实职业任务,由专家把模型的产出与人类专业人士的成果盲比。分数是胜率。第三方实测
- Cybench 网络安全12.5%第 15 / 19夺旗赛(CTF)风格的网络安全题,测攻防能力。第三方实测https://cybench.github.io/
- CAD 建模26.0%第 11 / 17按文字描述生成三维 CAD 模型,考的是工程建模能力。第三方实测https://willpatrick.xyz/cadevalresults_20250422_095709/
多模态
- 视频理解71.9%第 2 / 8Video-MME:看一段视频回答问题,从几秒的短片到一小时的长片都有。第三方实测https://video-mme.github.io/home_page.html#leaderboard
- 看图猜地点71.0%第 13 / 29GeoBench:给一张街景照片猜出在哪个国家。测的是视觉细节与地理知识。第三方实测https://geobench.org/
- 视觉物理预测40.0%第 17 / 36VPCT:看一张小球与斜坡的图,预测球会滚进哪个杯子。测视觉直觉物理。第三方实测https://cbrower.dev/vpct
游戏与谜题
- 国际象棋残局13.0%第 86 / 156给一个棋局找出最佳着法。分数是解对的比例,随机乱走约 5 分。第三方实测https://epoch.ai/benchmarks/chess-puzzles
- BALROG 游戏32.3%第 16 / 41玩 NetHack、我的世界之类的文字或像素游戏,看能推进多少进度。第三方实测https://balrogai.com/
- EnigmaEval0.8%第 47 / 51解谜比赛里的复杂谜题,通常要综合图像、文字和多步推理。第三方实测https://labs.scale.com/leaderboard/enigma_eval
写作
- 创意写作81.8%第 20 / 60Lech Mazur 的短篇写作评测:按给定元素写故事,由多个模型交叉评分。分数是 0–10 的均分换算成百分制。第三方实测https://github.com/lechmazur/Writing
其他
- Dtbench64.5%第 141 / 198Epoch AI 收录的评测,暂无中文说明。第三方实测https://conceptualreasoning.ai/dtbench
- Lmca16.6%第 143 / 183Epoch AI 收录的评测,暂无中文说明。第三方实测https://conceptualreasoning.ai/lmca