文章主题:自然语言处理, 深度学习, 开源自然语言处理工具FudanNLP、FastNLP, 自然语言表示学习
每经编辑:毕陆名,孙志成
2月20日,复旦大学自然语言处理实验室邱锡鹏教授团队发布国内首个类ChatGPT模型MOSS,引起不少网友关注,由于瞬时访问压力过大,MOSS服务器昨晚还被网友挤崩溃了。
2月21日,MOSS官网发布公告称,MOSS还是一个非常不成熟的模型,距离ChatGPT还有很长的路需要走。我们一个学术研究的实验室无法做出和ChatGPT能力相近的模型,MOSS只是想在百亿规模参数上探索和验证ChatGPT的技术路线,并且实现各种对话能力。“我们最初的想法只是想将MOSS进行内测,以便我们可以进一步优化,没有想到会引起这么大的关注,我们的计算资源不足以支持如此大的访问量,并且作为学术团队我们也没有相关的工程经验,给大家造成非常不好的体验和第一印象,在此向大家致以真诚的歉意。”公告还解释名称源于《流浪地球》。据了解,在MOSS完成初步验证后,团队会将MOSS的经验、代码、模型参数开源供大家参考。
邱锡鹏教授是一位在自然语言处理领域有着深厚研究的专家,他在复旦大学获得了理学学士和博士学位。他的研究方向主要集中在深度学习和自然语言处理上,他发表的CCF-A/B类论文数量达到了70余篇。此外,他还主持开发了开源自然语言处理工具FudanNLP和FastNLP,这些工具在学术界和产业界都得到了广泛的应用。邱教授不仅在学术研究方面取得了显著的成绩,还在指导学生方面有着丰富的经验。他多次指导的学生获得了中国人工智能学会优博、中国中文信息学会优博、微软学者、百度奖学金、上海市计算机学会优博等荣誉。他的学生们在他的指导下,不仅在学术上有所建树,也在实际应用中发挥了重要作用。邱教授是一位非常优秀的研究者和教育家,他的研究成果和教学经验都得到了广泛的认可。如果您对自然语言处理或深度学习有任何问题,欢迎随时向他咨询。
邱锡鹏是一位专注于自然语言处理领域的研究者,他的研究领域涵盖了多个方面,包括但不限于机器学习模型构建、学习算法以及下游任务应用。他特别关注自然语言表示的学习、预训练模型的开发和信息抽取技术的应用。此外,他还对中文NLP、开源NLP系统以及可信NLP技术有着深入的研究。在对话系统方面,他也取得了显著的成果。他的研究不仅推动了自然语言处理领域的进步,也为实际应用提供了有力的支持。
邱锡鹏在知乎上关注了一个关于国内首个类ChatGPT模型MOSS的问题,但他没有对此发表任何评论。
图片来源:平台截图
MOSS能够执行对话生成、编程以及事实问答等一系列任务,它打通了让生成式语言模型理解人类意图并具有对话能力的所有技术路径。这条路径的走通对于国内学术界和产业界来说都是一次重要的经验积累,它将为大语言模型的进一步探索和应用提供有力的支持。
邱锡鹏表示:“尽管MOSS还有很大改善空间,但它的问世证明了在开发类ChatGPT产品的路上,国内科研团队有能力克服技术上的重要挑战。”MOSS研发项目得到了上海人工智能实验室的有力支持。后期,这项工作将通过开源方式和业界社区分享。
“MOSS开发的基本步骤与ChatGPT相似,包括自然语言模型基础训练和理解人类意图对话能力训练两个阶段。邱锡鹏表示,MOSS与ChatGPT在自然语言模型基座预训练阶段存在差距。MOSS的参数量比ChatGPT小一个数量级,在任务完成度和知识储备量上还有很大的提升空间。”
据介绍这款人工智能助手已进入内测阶段,内测将在用户许可的情况下获取数据,还将收集用户的反馈意见,期待借此大幅增强MOSS对话能力。
值得注意的是,A股上市公司复旦复华21日开盘即涨停,截至发稿,该股报6.78元,涨停板上封单近15万手。
但复旦复华随后表示,MOSS为复旦大学研发,与公司无关。目前公司的主营业务为生物医药、软件和园区三大板块,未参与MOSS研发。
企查查APP显示,目前MOSS商标申请信息共74条,已有32枚商标被成功注册,申请人包括进出口、电子商务、高新技术等领域的多家公司及多个自然人,商标国际分类包括科学仪器、珠宝钟表、教育娱乐等,此外,目前仍有3枚MOSS商标正在注册申请中。
编辑|毕陆名 孙志成 杜恒峰
校对|王月龙
每日经济新闻综合上观新闻、MOSS官网
每日经济新闻
AI时代,掌握AI大模型第一手资讯!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
扫码右边公众号,驾驭AI生产力!