东南大学近日宣布了一项重要进展,该校已成功接入了阿里巴巴最新开源的QwQ-32B模型,并基于昇腾国产算力平台实现了服务的上线。这一举措使东南大学成为全国首个提供QwQ-32B服务的高校。
据悉,QwQ-32B模型虽然仅拥有32B参数,但经过大规模强化学习的训练,其在多个任务中展现出了卓越的性能。在数学推理方面,该模型在AIME24评测中的表现与拥有671B参数的DeepSeek-R1模型不相上下,甚至在部分指标上实现了超越。同时,在代码生成和工具调用等任务中,QwQ-32B也展现出了强大的实力。
在对比测试中,QwQ-32B模型的表现远胜于o1-mini及相同尺寸的R1蒸馏模型,这进一步证明了其出色的性能。该模型还具备消费级显卡本地部署的能力,这大大降低了硬件门槛,使得更多的师生能够在科研中快速实现AI推理需求。
东南大学表示,QwQ-32B模型的集成工具调用与动态推理能力,使其能够根据环境反馈调整策略,从而适用于复杂任务处理。在数据分析、实验模拟等科研场景中,该模型将发挥重要作用,助力师生取得更多科研成果。
阿里巴巴采用了宽松的Apache2.0协议,将QwQ-32B模型向全球开源。这意味着所有人都可以免费下载该模型并进行商用,这无疑将推动AI技术的进一步发展和普及。
此次东南大学的成功接入,不仅展示了该校在AI技术领域的实力,也为其他高校和科研机构提供了宝贵的经验和参考。未来,随着AI技术的不断发展和普及,相信会有更多的高校和科研机构加入到这一领域中来,共同推动AI技术的创新和应用。