聪明世界#203
编程暂无
记性128K
便宜$0.08
记性换算成体感:一次能读完一本中篇小说
Llama 系列的文本模型 · 按发布时间
共 10 个 · 这里是相邻的 7 个 · Meta的全部模型 →他的房间
电脑
没有公开的编程评测成绩
书架
3 层 · 记忆 128K tokens
黑板
数学与科学推理
日历
知识停在 2023-12
冰箱
支持上下文缓存,能存记忆
敞开的门
开源权重,谁都能进
身世
- 发布日期
- 2024 年 7 月 23 日models.dev
- 知识截止
- 2023-12
- 参数量
- 8.03B
- 开放权重
- 是
- 开源许可
- 暂无数据
- 上下文窗口
- 128K tokens
- 单次最大输出
- 4K
- 输入价格
- $0.054 / 百万 tokens
- 输出价格
- $0.080 / 百万 tokens
- 模型类型
- 文本只读文字、只写文字的对话模型
- 支持的输入
- 文字 → 文字
- 工具调用
- 是
- 深度思考
- 否
- 提示缓存
- 是
战绩
- 综合智力
- 116.5
- AIME 数学
- 1.7%
- GPQA Diamond 科学
- 27.0%
- ARC-AGI-2 抽象推理
- 未参评
- Fiction.liveBench 长文本
- 未参评
综合智力、数学、科学、抽象推理与长文本数据来自 Epoch AI(CC-BY 4.0)。写「未参赛」的项目表示该模型没有被这项评测收录, 不代表它做不到——本站不会用估算值填补空缺。
编程战绩(按赛制分列)
没有查到这个模型的任何公开编程评测成绩。
这表示「没人公开测过它」,不表示「它不会写代码」——本站不会用估算值填补空缺。
全部成绩(按榜单分列)
名次的分母是在同一个榜、由同一类测量方测过的模型数,不是全站模型数。不同榜的分数不可互相比较。
综合
- 综合智力116.5第 203 / 208Epoch Capabilities Index,把十几项学术评测归并成一个总分。想知道「谁最强」,先看这一栏。第三方实测https://epoch.ai/benchmarks
数学
- AIME 数学1.7%第 186 / 191美国高中数学邀请赛难度的模拟题,是数学竞赛能力的通行标尺。答对比例,满分 100。第三方实测https://epoch.ai/benchmarks
- MATH 五级22.9%第 80 / 91MATH 题库里难度最高的一档,高中竞赛水平。老榜单,顶尖模型早已接近满分。第三方实测https://epoch.ai/benchmarks/math-level-5
- GSM8K82.4%第 5 / 9小学应用题。早期用来测数学能力,如今顶尖模型全部接近满分,只对小模型还有区分度。第三方实测http://arxiv.org/abs/2404.14219
知识与推理
- GPQA 科学27.0%第 191 / 197博士级别的物理、化学、生物选择题,题目设计到「谷歌也搜不到答案」。随机乱猜是 25 分。第三方实测https://epoch.ai/benchmarks
- MMLU56.1%第 43 / 44横跨 57 个学科的大学水平选择题,曾是最通行的知识广度标尺。如今顶尖模型已接近饱和。第三方实测https://crfm.stanford.edu/helm/lite/latest/#/leaderboard/mmlu
- CritPt 物理0.0%第 112 / 163研究级别的物理问题,由在职物理学家出题。测的是能不能做前沿科研级的推理。第三方实测
- WeirdML1.7%第 145 / 146一批刻意古怪的小型机器学习任务,模型要自己写代码训练并拿到成绩。考的是解决陌生问题的能力。第三方实测https://htihle.github.io/weirdml.html
- PIQA81.2%第 13 / 14物理常识题:要达成某个目的,哪种做法可行?早期榜单。第三方实测http://arxiv.org/abs/2404.14219
- BoolQ82.8%第 6 / 7读一段文字回答是或否。早期阅读理解榜单。第三方实测http://arxiv.org/abs/2404.14219
游戏与谜题
- 国际象棋残局0.0%第 144 / 156给一个棋局找出最佳着法。分数是解对的比例,随机乱走约 5 分。第三方实测https://epoch.ai/benchmarks/chess-puzzles
- BALROG 游戏15.1%第 34 / 41玩 NetHack、我的世界之类的文字或像素游戏,看能推进多少进度。第三方实测https://balrogai.com/
其他
- Dtbench50.9%第 184 / 198Epoch AI 收录的评测,暂无中文说明。第三方实测https://conceptualreasoning.ai/dtbench
- Lmca5.4%第 178 / 183Epoch AI 收录的评测,暂无中文说明。第三方实测https://conceptualreasoning.ai/lmca