快科技6月17日消息,月之暗面推出了针对软件工程任务的全新开源代码大模型——Kimi-Dev-72B。
该模型在SWE-bench Verified编程基准测试中取得了全球最高开源模型水平,以仅72B的参数量,超越了刚发布不就、参数量达671B的新版DeepSeek-R1。
该模型通过大规模强化学习进行优化,能够自主修补Docker中的真实存储库,并且只有当整个测试套件通过时才会获得奖励,从而确保了解决方案的正确性和稳健性。
Kimi-Dev-72B的设计理念和技术细节包括BugFixer和TestWriter的组合、中期训练、强化学习和测试时自我博弈。
其中,BugFixer和TestWriter的互补设计奠定了模型的基础,使其在修复错误和编写测试方面表现出色。
中期训练则通过约1500亿个高质量的真实数据,增强了模型对实际Bug修复和单元测试的理解。
强化学习阶段则专注于提升其代码编辑能力,使其在文件本地化和代码编辑方面表现出色。
目前,Kimi-Dev-72B已在Hugging Face和GitHub上提供下载和部署,包括模型权重、源代码等。
【本文结束】如需转载请务必注明出处:快科技
责任编辑:黑白
0 条