开源模型在竞赛数学MATH上首次突破50%，清华、微软联合推出工具集成推理语言模型
导读：ToRA 模型在数学推理任务上取得突破，通过集成语言推理与工具调用，让 LLM 解决复杂数学问题的能力大幅提升。
https://arxiv.org/abs/2309.17452
https://github.com/microsoft/ToRA
https://microsoft.github.io/ToRA/
序言：突破大模型数学推理的瓶颈
此外，ToRA-Code-34B 是首个在 MATH 上准确率超过 50% 的开源模型，大幅优于 GPT-4 CoT 结果，并与 GPT-4 通过写代码解题的性能接近（50.8% vs. 51.8%）。
为训练模型实现工具集成推理，作者使用 GPT-4 对 GSM8k 和 MATH 数据集中的数学问题标注了相应的高质量交互式工具使用轨迹，形成了包含 16k 标注的 ToRA-Corpus，并在该数据集上应用模仿学习微调模型，研究人员发现相比以往增广大量数据的方法，只利用数量明显更少的 ToRA-Corpus 语料微调的模仿模型就能取得 SoTA 性能。
输出空间塑造：轨迹自采样与纠错
更进一步地，为了提高推理步骤的多样性并减少不当的工具使用行为，作者提出了输出空间塑造方法：使用经过模仿学习的模型 M 采样多样化的工具使用轨迹，保留有效轨迹，对无效轨迹则使用教师模型 M′逐步纠正，最后在有效轨迹、纠正后的无效轨迹以及 ToRA-Corpus 上重新微调模型以得到 ToRA 系列模型。该方法显著提高了推理性能，使开源模型在竞争级别的 MATH 数据集上首次实现超过 50% 的准确率。
实验与分析
ToRA 始终超越最先进的开源模型，在 10 个任务的平均结果上实现 13% 至 19% 的大幅提升。ToRA-70B 在 GSM8k（84.3% vs. 80.4%）和 MATH（49.7% vs. 38.7%）上显著超越 ChatGPT，而 ToRA-Code-34B 在竞赛级 MATH 数据集上大幅超越了 GPT-4 CoT（50.8% vs. 42.5），并与使用代码解题的 GPT-4 PAL 表现相当（50.8% vs. 51.8%）。
基于 CodeLLaMA 训练的 ToRA-Code 准确性比同样参数量的基于 LLaMA-2 的 ToRA 高出约 5%，表明提升基座模型的代码能力可以进一步提升 ToRA 的解题能力。
ToRA 表现出优越的泛化能力，而基于语言推理 CoT 微调对分布外泛化可能产生负面影响。例如，ToRA-70B 相比 WizardMath 在表格推理任务 TabMWP 上泛化得更好（74.0% vs. 57.5%）。
作者通过消融实验表明，与仅使用语言推理（Rationale-only）和仅使用程序调用工具（Program-only）的方法相比，工具集成推理（Tool-integrated Reasoning）在数学推理任务上具有显著更好的性能。
另外，在输出空间塑造阶段所使用的（1）轨迹自采样策略和（2）轨迹纠错策略 均对提高数学推理表现起到了关键作用。
最后，作者还针对各个数学推理主题（比如代数、概率论、数论和几何等）分析了工具库的使用特征，并深入探讨了工具集成推理的优势及未来挑战，这些有价值的发现和见解为后续研究提供了重要参考。展望未来，ToRA 的研究成果有望为 AI 领域的数学推理以及其他复杂推理任务提供有力支持。
更多阅读
#投 稿 通 道#
让你的文字被更多人看到
如何才能让更多的优质内容以更短路径到达读者群体，缩短读者寻找优质内容的成本呢？答案就是：你不认识的人。
总有一些你不认识的人，知道你想知道的东西。PaperWeekly 或许可以成为一座桥梁，促使不同背景、不同方向的学者和学术灵感相互碰撞，迸发出更多的可能性。
PaperWeekly 鼓励高校实验室或个人，在我们的平台上分享各类优质内容，可以是最新论文解读，也可以是学术热点剖析、科研心得或竞赛经验讲解等。我们的目的只有一个，让知识真正流动起来。
📝 稿件基本要求：
• 文章确系个人原创作品，未曾在公开渠道发表，如为其他平台已发表或待发表的文章，请明确标注
• 稿件建议以 markdown 格式撰写，文中配图以附件形式发送，要求图片清晰，无版权问题
• PaperWeekly 尊重原作者署名权，并将为每篇被采纳的原创首发稿件，提供业内具有竞争力稿酬，具体依据文章阅读量和文章质量阶梯制结算
📬 投稿通道：
• 投稿邮箱：hr@paperweekly.site
• 来稿请备注即时联系方式（微信），以便我们在稿件选用的第一时间联系作者
• 您也可以直接添加小编微信（pwbot02）快速投稿，备注：姓名-投稿
△长按添加PaperWeekly小编
🔍
现在，在「知乎」也能找到我们了
进入知乎首页搜索「PaperWeekly」
点击「关注」订阅我们的专栏吧