GPT-4.5/o3:下一代模型
OpenAI 发布 GPT-4.5 和 o3 系列,持续推动大模型能力边界。
事件概述
2025年,OpenAI 持续推进大模型前沿。GPT-4.5 在多模态理解和知识广度上进一步提升。o3 系列继承了 o1 的推理能力,在 ARC-AGI 基准测试中取得突破性成绩,展示了向 AGI 迈进的进展。这些模型在代码生成、科学推理和复杂任务处理上达到新高度。OpenAI 的持续创新推动着整个行业前进,同时也引发了关于 AI 安全和监管的更多讨论。
深度学习笔记
背景、原理、影响与要点,一次读懂这个事件
背景与脉络
2025 年初,OpenAI 的产品线走到一个转折点。2 月 27 日,GPT-4.5(内部代号 Orion)以研究预览形式发布:这是 OpenAI 最后一个纯预训练扩展路线的旗舰,参数量与训练算力均为史上最大,通过扩大无监督学习获得更广的世界知识、更低的幻觉率与更自然的对话风格,但不具备思维链推理能力——Altman 称它「庞大而昂贵」,API 定价高达每百万输入 token 75 美元。与此同时,推理路线继续推进:o3-mini 于 1 月 31 日先行推出,正式版 o3 于 4 月 16 日发布,在 ARC-AGI 等抽象推理基准上取得突破性成绩。GPT-4.5 因此成为一个时代的尾声:预训练 scaling 的终点,与推理 scaling 主导的起点在同一时空交叠。
核心要点
- 1GPT-4.5(Orion)于 2025 年 2 月 27 日以研究预览发布,是最后一代纯预训练旗舰。
- 2通过扩大无监督学习获得更广知识与更低幻觉,但不具备思维链推理。
- 3API 定价极高(每百万输入 token 75 美元),先向 ChatGPT Pro 用户开放。
- 4o3-mini(1 月 31 日)与 o3(4 月 16 日)把推理路线推向新高度。
- 5o3 在 ARC-AGI 抽象推理基准取得突破,同时暴露纯测试集的天花板争议。
原理与技术细节
GPT-4.5 的技术意义在于把「预训练 scaling」推到了经济与技术的双重边界:用更大算力、更多数据、更精细的对齐(新的可扩展对齐技术:用小模型生成的数据训练大模型)换来直觉与知识的提升,但数学与代码等需要显式推理的任务仍逊于 o3-mini——这直接证明了预训练与推理是两条互补的 scaling 轴。o3 则代表另一条轴:通过大规模强化学习训练模型在回答前生成更长的内部推理链,并在推理时按需分配计算(test-time compute)。ARC-AGI 上,o3 在低算力配置取得约 75.7%、高算力配置约 87.5% 的成绩,远超此前模型;但 ARC-AGI 的题目对人类而言也非易事,且该基准迅速面临污染与饱和争议——这再次说明推理基准的生命周期比模型迭代周期更短。
影响与后续
GPT-4.5 与 o3 共同标记了 2025 年行业的范式共识:能力扩展从单一预训练轴变成「预训练 + 推理时计算」双轴,此后所有旗舰模型都同时报告两种 scaling 曲线。GPT-4.5 的昂贵与短命(API 预览于 2025 年 7 月下线)也说明纯预训练的边际收益已趋近商业极限——Altman 随后宣布 GPT-5 将统一两条路线。对竞争格局而言,o3 的 ARC-AGI 成绩短暂点燃了「AGI 临近」的舆论,随后迅速被数据污染与基准饱和的质疑冷却;而同期 DeepSeek R1 以开源复现了推理路线的大部分能力,把成本曲线再次打了下来。2025 年由此成为「推理模型普及年」:思考预算、可验证奖励(RLVR)与长思维链成为所有实验室的标准配置。
学习要点
- 预训练 scaling 与推理时计算是两条互补的扩展轴,旗舰模型必须同时报告。
- 纯预训练旗舰的边际收益趋零时,产品形态会被推理模型迅速替代。
- ARC-AGI 类抽象推理基准极易饱和与污染,宣称突破需附方法审查。
- 推理模型的竞争很快从「能不能想」转向「想得多便宜」(R1 的冲击)。
术语表
在推理阶段投入更多计算(更长思维链、更多采样)来换取更强能力的新 scaling 轴。
抽象与推理语料库基准,考察人类式的少样本归纳能力,被 o3 等推理模型用作试金石。
以受控方式向有限用户发布前沿模型以收集反馈的发布形态,GPT-4.5 采用此形式。