专栏名称: 新智元

智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响，领航中国新智能时代。

360联合北大震撼发布！5%参数量逼近Deepseek-R1满血性能

新智元 · 公众号 · AI · 2025-02-25 13:39

正文

新智元报道

编辑：编辑部 HYZ

【新智元导读】推理黑马出世，仅以5%参数量撼动AI圈。360、北大团队研发的中等量级推理模型Tiny-R1-32B-Preview正式亮相，32B参数，能够匹敌DeepSeek-R1-671B巨兽。

2025年2月24日，由360与北京大学联合研发的中等量级推理模型Tiny-R1-32B-Preview正式亮相，仅以5%参数，逼近DeepSeek-R1-671B的性能。

核心突破：小模型，大能量

数学领域： 以78.1分（AIME 2024评测）逼近原版R1模型（79.8分），远超DeepSeek-R1-Distill-Llama-70B（70.0分）；
综合性能： 在编程（LiveCodeBench 61.6分）、科学（GPQA-Diamond 65.0分）领域全面领先最佳开源70B模型DeepSeek-R1-Distill-Llama-70B；
效率跃迁 ：仅需5%参数量，性能达原版R1的95%以上，推理成本大幅降低。

技术革新：领域专精+模型融合

研究团队使用「分治-融合」策略：

基于DeepSeek-R1生成海量领域数据，分别训练数学、编程、科学三大垂直模型；
通过Arcee团队Mergekit工具智能融合，突破单一模型性能上限，实现多任务均衡优化。

开源承诺：推动技术普惠

模型仓库：https://huggingface.co/qihoo360/TinyR1-32B-Preview
即将公开 完整技术报告、训练代码及部分数据集；
践行开源精神，助力AI社区共筑高效推理新生态。

研发团队表示： 「Tiny-R1-32B-Preview的成功是站在了巨人的肩膀上，受益于开源社区精神，结合DeepSeek-R1蒸馏、DeepSeek-R1-Distill-32B增量训练、模型融合等技术，使用360-LLaMA-Factory训练而来，未来我们也将持续探索更轻量、更强大的模型，推动AI技术普惠化进程，并回馈开源社区。」