Stability AI开源3B代码生成模型:可补全,还能Debug

科技 2024-03-27 09:13 阅读:12

Stability AI最新发布的小体量预训练模型Stable Code Instruct3B,是一个基于Stable Code3B的指令调整编码语言模型(Code LM)。该模型在3B规模上提供了SOTA性能,优于更大规模的模型CodeLlama7B Instruct,甚至与StarChat15B相媲美。Stable Code Instruct3B不仅增强了代码补全能力,还支持自然语言交互,旨在提高编程和软件开发任务的效率和直观性。

Stable Code建立在Stable LM3B的基础上,是一个因果纯解码器transformer。与LLaMA架构相比,Stable Code在位置嵌入、标准化和偏差等方面有所不同,从而提高了吞吐量和性能。该模型重点关注Python、Javascript、Java、C、C++和Go等流行语言,同时也对其他广泛采用的语言进行了训练,展现出强大的测试性能。

Stable Code Instruct3B不仅精通代码生成,还擅长FIM任务、数据库查询、代码翻译等多项任务。其指令调整使其能够理解并按照细致入微的指令采取行动,促进了广泛的编码任务。在性能评估方面,Stable Code Instruct3B在代码完成准确性、对自然语言指令的理解以及跨不同编程语言的能力方面表现出色,超越了其他领先模型。

Stable Code Instruct3B的参数规模和低硬件要求使其适用于广泛的受众,提高了开发人员的工作效率。现在,Stable Code Instruct3B可以通过Stability AI会员资格用于商业目的,为编程领域带来更多可能性。如果想了解更多关于Stable Code Instruct3B的信息,可以访问以下链接:

https://stability.ai/news/introducing-stable-code-instruct-3b

https://twitter.com/StabilityAI/status/1772345514023116828