据报道,阿里通义实验室的 Qwen Pilot 团队推出了一项名为 FIPO 的全新算法。该算法旨在打破传统强化学习(RL)在处理复杂逻辑时的瓶颈,让模型在推理长度和准确率上实现双重飞跃。
核心突破:解决“推理长度停滞”
传统模型在面对数学等复杂问题时,往往难以区分哪些 Token 是通往正确答案的关键。FIPO 算法对此进行了针对性重构:
Future-KL 机制: 引入 Future-KL 策略,专门奖励那些对后续推理有显著积极影响的 Token,让 AI 学会“深谋远虑”。
符号对数概率差: 引入这一新机制来精准捕捉模型的优化方向,避免推理过程陷入无效的循环。
推理长度跨越: 在零基础模型上,FIPO 成功将平均推理长度提升至 10,000 Token 以上,彻底解决了推理深度不足的问题。
战绩斐然:32B 模型逆袭 o1-mini
在实测对比中,搭载 FIPO 算法的 32B 规模模型展现出了惊人的“小钢炮”属性:
反超竞品: 在纯强化学习设置下,其推理性能成功反超同规模模型,甚至在部分指标上优于OpenAI 的 o1-mini。
数学潜力: 算法在处理高难度数学推理题目时表现尤为出色,展现了极强的逻辑推导潜力。
行业背景:通义实验室的“智能进化”
阿里通义实验室近期在 AI 底层算法上动作频频。除了本次惊艳的 FIPO 算法,团队在 3 月底刚推出了CoPaw 1.0 新版本,显示出其在提升模型逻辑严密性与交互深度方面的持续深耕。
结语:推理效率的“第二曲线”
当行业还在争论参数规模时,阿里通义通过 FIPO 算法证明了:通过更精细的奖励机制和逻辑诱导,较小规模的模型同样能迸发出顶级的“思考力”。
.png)
发评论,每天都得现金奖励!超多礼品等你来拿
登录 在评论区留言并审核通过后,即可获得现金奖励,奖励规则可见: 查看奖励规则