文章主题:
IT之家 4 月 21 日消息,复旦大学自然语言处理实验室开发的新版 MOSS 模型今日正式上线,成为国内首个插件增强的开源对话语言模型。
目前,MOSS 模型已上线开源,相关代码、数据、模型参数已在 Github 和 Hugging Face 等平台开放,供科研人员下载。
据介绍,MOSS 是一个支持中英双语和多种插件的开源对话语言模型,moss-moon 系列模型具有 160 亿参数,在 FP16 精度下可在单张 A100 / A800 或两张 3090 显卡运行,在 INT4/8 精度下可在单张 3090 显卡运行。MOSS 基座语言模型在约七千亿中英文以及代码单词上预训练得到,后续经过对话指令微调、插件增强学习和人类偏好训练具备多轮对话能力及使用多种插件的能力。
MOSS 来自复旦大学自然语言处理实验室的邱锡鹏教授团队,名字与《流浪地球》电影中的 AI 同名,已发布至公开平台(https://moss.fastnlp.top/),邀请公众参与内测。
IT之家查看 MOSS 的 GitHub 页面发现,该项目所含代码采用 Apache 2.0 协议,数据采用 CC BY-NC 4.0 协议,模型权重采用 GNU AGPL 3.0 协议。如需将该项目所含模型用于商业用途或公开部署,需要签署文件并发送至 robot@fudan.edu.cn 取得授权,商用情况仅用于记录,不会收取任何费用。
MOSS 用例: ▲ 解方程▲ 生成图片▲ 无害性测试模型🌟【Moss-Moon-003基座】🚀 – 高端模型大揭秘!💡基于丰富且纯正的中英文语料库,MOSS-003基座模型经历了深度的自监督训练,确保了卓越的语言理解和生成能力。🌍📊 逾700亿单词的海量数据沉淀,背后是6.67万亿次计算精度的精准锤炼!💻🔬这款超大规模语言模型,不仅在规模上独步江湖,更在细节中彰显匠心。它以强大的算力为根基,实现了语言处理领域的技术突破,引领未来趋势。🔥🚀欲了解更多关于其卓越性能和如何赋能你的工作,欢迎垂询,我们致力于提供最专业、最全面的咨询服务。📝👩💻SEO优化提示:Moss-Moon-003预训练、超大规模语言模型、自监督训练、语言理解和生成能力、数据量、计算精度等关键词应适当出现。
moss-moon-003-sft: 基座模型在约 110 万多轮对话数据上微调得到,具有指令遵循能力、多轮对话能力、规避有害请求能力。
🌟🚀Moss-Moon-003-SFT-Plugin: 🚀✨基于庞大且高质量的110万+对话轮训数据和30万+插件优化,这款基座模型已达到卓越的微调水平。它不仅仅是个聊天伙伴,还能驾驭搜索引擎、图文转换、计算器及解决数学问题等多种工具,让你的交流更加智能与便捷!🚀💪#MossMoonPlugin #AI对话 #智能化生活
🚀🚀🚀 预计不久后,基于”Moss-Moon-003-SFT”海量用户反馈数据打造的个性化偏好模型将向全球开放!🚀🚀🚀这款经过深度学习优化的工具,将充分利用大数据的力量,为用户提供更为精准和个性化的服务。我们期待它能像月球一样引领潮流,满足大家对优质体验的无尽追求。👩💻👨💻欲了解更多详情,敬请关注后续官方公告,让科技与你的生活无缝对接!🌍🌐
🚀🚀【Moss-Moon-003】秘密武器公开!🚀🚀🔥基于顶尖技术平台”Moss-Moon-003-SFT”,我们精心打造了专属于你的【Moss-Moon-003-PM】偏好模型,它不仅火力全开,事实准确无误,而且安全级别MAX,让你的每一次互动都安心无比!🛡️🔥稳定性是我们引以为傲的标签,这个超级AI在回复质量上展现出了前所未有的稳健,确保无论何时何地,都能提供流畅、连贯的服务。🚀🎉好消息来了!这款革命性的模型即将全面开源,让科技的力量触手可及!👩💻👨💻别等了,赶紧加入我们的科技探索之旅,体验未来智能的精彩!🌍#Moss-Moon-003 #偏好模型 #安全稳定 #开源计划
🚀🚀🚀 Moss-Moon-003 Plugin Upgrade Alert 🚀🚀🚀Get ready for an AI-powered plugin game-changer! Introducing the highly advanced and sophisticated Moss-Moon-003 SFT Plugin, trained meticulously on the versatile preference model – Moss-Moon-003 PM. This cutting-edge solution promises superior intent comprehension and seamless plugin usage, all set to revolutionize your experience.👀 Enhanced Intent Recognition: Say goodbye to ambiguous signals! The refined plugin now interprets user needs with precision, boosting efficiency and accuracy.🛠️ Seamless Integration: Experience a smoother plugin journey with Moss-Moon-003. Its intuitive design streamlines interactions, making your work a breeze.🔍 Near-Open Source Future: Exciting news for open-source enthusiasts! This game-changing model will be made available to the community soon, fostering collaboration and innovation.Stay tuned for the release that’s set to redefine plugin development. Get ready to witness the Moss-Moon-003 Plugin soar to new heights! 🚀 #MossMoon003 #PluginRevolution #AIIntegration
数据🌟【揭秘】MOSS-002超实用对话大揭秘🔍——数据力扛旗!$moss-002-sft-data$集三大维度,诚意满满!📊这款AI语音交互的黄金样本——MOSS-002,以其海量多轮对话数据,展现了强大的实力。它不仅覆盖了有效性、忠实性和无害性这三大核心领域,更是以文本 davinci-003 的卓越生成能力,产出约 57 万条英文和 59 万条中文的深度交流记录。🚀每一条对话都犹如宝石般璀璨,蕴含着丰富的交互逻辑与人性洞察,为提升AI智能对话体验提供了坚实的基石。🎯欲一窥其究竟,探索语言与智慧的无限可能?$moss-002-sft-data$等你来挖掘!👩💻👨💼 SEO优化提示:使用”多轮对话数据”、”有效性”、”忠实性”和”无害性”等关键词,提升搜索引擎可见度。🏆
moss-003-sft-data: moss-moon-003-sft 所使用的多轮对话数据,基于 MOSS-002 内测阶段采集的约 10 万用户输入数据和 gpt-3.5-turbo 构造而成,相比 moss-002-sft-data,moss-003-sft-data 更加符合真实用户意图分布,包含更细粒度的有用性类别标记、更广泛的无害性数据和更长对话轮数,约含 110 万条对话数据。目前仅开源少量示例数据,完整数据将在近期开源。
moss-003-sft-plugin-data: moss-moon-003-sft-plugin 所使用的插件增强的多轮对话数据,包含支持搜索引擎、文生图、计算器、解方程等四个插件在内的约 30 万条多轮对话数据。目前仅开源少量示例数据,完整数据将在近期开源。
moss-003-pm-data: moss-moon-003-pm 所使用的偏好数据,包含在约 18 万额外对话上下文数据及使用 moss-moon-003-sft 所产生的回复数据上构造得到的偏好对比数据,将在近期开源。
MOSS 的 GitHub 页面:点此查看
AI时代,拥有个人微信机器人AI助手!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!