打破「卡脖子」难题，MOSS语言模型开源！

站长之家4月21日消息:复旦大学自然语言处理实验室今日发布了新版 MOSS 模型，这是国内首个插件增强的开源对话语言模型。

打开凤凰新闻，查看更多高清图片

图片来自 MOSS

MOSS 模型基于公开的中英文数据训练，目前已拥有 200 亿参数，具有和人类对话的能力，并可以通过与人类交互实现迭代优化。目前 MOSS 模型已上线开源，相关代码、数据、模型参数已在 Github 和 Hugging Face 等平台开放，供科研人员下载。

MOSS 系统负责人邱锡鹏表示，下一阶段的大型语言模型需要和现实世界以及人类的价值观进行「对齐」，成为一个真正的智能体。他强调，MOSS 的开源，旨在改善大型语言模型的生态环境，让科研人员在该基座上接不同的细分领域。他表示，未来，MOSS 将继续推动语言模型的发展，以更好地服务于社会和人类。

邱锡鹏认为，行业生态的缺失是人们容易陷入“卡脖子”困境的关键因素。以ChatGPT为例，OpenAI公司只需专注于模型研发，而算力、数据和系统则由其他公司负责。相比之下，在国内，许多企业为了实现大型语言模型的开发，不得不承担起所有环节的任务，这使得每家企业的数据和算力资源都有限，从而导致了规模效应的缺失。此外，大型语言模型训练与在线推理的成本过高也是制约其发展的一个重要因素。

“MOSS 开源的初衷是希望通过开放平台，降低技术门槛，让更多开发者能够参与到软件开发中来。这样不仅可以推动软件行业的创新和发展，也可以帮助用户更好地利用和定制软件。同时，开源也有助于提高软件的质量和稳定性，减少因bug导致的问题。因此，MOSS 开源是一个双赢的选择。”