AI 为何越来越擅长数学:从提示序列与分支因子看模型解题方式
作者梳理 OpenAI 与 Anthropic 今年在数学开放问题上的多项成果,提出用提示序列长度 k 和分支因子 b 解释模型为何擅长数学。模型以深度优先方式并行尝试大量路径,配合自动验证器剪枝,把失败尝试当作负向提示写回下一轮。作者认为人类仍擅长压缩分支,在 k 和 b 都很大的问题上直觉依然关键。
推荐理由:文章用提示序列长度和分支因子解释模型为何擅长数学证明,并指出人类直觉仍占优的问题类型。
作者梳理 OpenAI 与 Anthropic 今年在数学开放问题上的多项成果,提出用提示序列长度 k 和分支因子 b 解释模型为何擅长数学。模型以深度优先方式并行尝试大量路径,配合自动验证器剪枝,把失败尝试当作负向提示写回下一轮。作者认为人类仍擅长压缩分支,在 k 和 b 都很大的问题上直觉依然关键。
推荐理由:文章用提示序列长度和分支因子解释模型为何擅长数学证明,并指出人类直觉仍占优的问题类型。
EXL 研究人员在 "Engineering the Harness" 系列中探讨企业 AI 的生产化挑战,指出服务框架(含架构、内存管理、调度与推理优化)比模型选型更决定 AI 能否可靠、经济地规模化交付。文章强调应从工作负载出发确定约束与架构,先测量再优化,并以 KV cache 随并发和上下文增长导致 GPU 显存瓶颈为例说明各环节相互影响。
UC Berkeley 的 Aditya G. Parameswaran 等人提出,推理成本已从 GPT-4 级约 $30/百万 token 降至不到 $1,部分厂商低于 $0.10,中位年降幅约 50x,正进入"近乎免费智能"时代。文章据此提出三类数据系统挑战:为智能体设计的数据系统、支撑智能体群体运行的数据系统、以及由智能体自行合成并需可验证的数据系统。
伯克利 AI 研究团队综述了并行推理领域进展,重点分析自适应并行推理——让模型自行决定何时分解并并行化子任务、开启多少并发线程以及如何协调。现有方法如自一致性、Best-of-N、Tree/Graph of Thoughts、MCTS、ParaThinker、GroupThink 和 Hogwild! Inference 的并行结构多由外部设定,而非模型自主选择。