首页 > 计算机科学

OpenAI大改下代大模型方向,scaling law撞墙?AI社区炸锅了

学术头条 2024-11-11 20:40
文章摘要
OpenAI 面临大模型 scaling laws 的挑战,预计到 2028 年现有数据将被耗尽,导致模型发展可能放缓。The Information 报道指出,OpenAI 下一代模型 Orion 的质量提升不及预期,引发行业对 scaling laws 的争议。OpenAI 研究者 Noam Brown 反驳了 AI 发展放缓的观点,认为 scaling laws 和推理时间优化可以相互增益。OpenAI 正在探索新的技术来应对数据匮乏,包括使用 AI 生成的数据进行训练,并开发新的推理模型以提升性能。
OpenAI大改下代大模型方向,scaling law撞墙?AI社区炸锅了
本站注明稿件来源为其他媒体的文/图等稿件均为转载稿,本站转载出于非商业性的教育和科研之目的,并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题,请作者速来电或来函联系。
最新文章
比二维码还小!Meta发布TinyLoRA:13个参数媲美全量,RL完胜SFT
比二维码还小!Meta发布TinyLoRA:13个参数媲美全量,RL完胜SFT
26 字节,13 个参数。这是让 7B 模型数学能力逼近全量微调的全部数据。下面这张看似普通的二维码,实则包含了一个名为 TinyLoRA 的微调适配器的全部参数。〓 图1. TinyLoRA 权重二
2026-02-06
ICLR 2026 | GPT-5竟给废图打高分?首个图表“信达雅”评测基准发布
ICLR 2026 | GPT-5竟给废图打高分?首个图表“信达雅”评测基准发布
\uD83E\uDE84 你的 Dashboard 好看又精准吗? 也许,是时候让 AI 来严肃地打一次分了。引言:当 AI 开始 “看图思考”在这个“数据驱动决策”的时代,图表早已不是“锦上添花”的装饰——它是传递复杂信
2026-02-04
Wiley高层访问中国市场:加速AI布局,助力人工智能驱动型研究的发展
Wiley高层访问中国市场:加速AI布局,助力人工智能驱动型研究的发展
近期,威立执行副总裁兼总经理Jay Flynn,威立高级副总裁兼学术出版全球负责人Liz Ferguson及威立高级副总裁兼首席营销官Anna Reeves到访中国市场,在威立北京办公室与威立全球副总
2026-02-04
代码直接变论文!MSRA同款Agent库开源,读Repo一键生成初稿
代码直接变论文!MSRA同款Agent库开源,读Repo一键生成初稿
当你还在反复调试 Prompt 时,隔壁组已经用 Agent 把代码直接变成了顶会论文。科研中最绝望的时刻往往不是没有 idea,而是实验跑通后,对着丑陋的 Visio 架构图调配色,或者对着空白的
2026-02-03
Book学术官方微信
Book学术文献互助
Book学术文献互助群
群 号:604180095
Book学术
文献互助 智能选刊 最新文献 互助须知 联系我们:info@booksci.cn
Book学术提供免费学术资源搜索服务,方便国内外学者检索中英文文献。致力于提供最便捷和优质的服务体验。
Copyright © 2023 Book学术 All rights reserved.
ghs 京公网安备 11010802042870号 京ICP备2023020795号-1