文章主题:复旦大学, MOSS, 对话式大模型, 人工智能

666AI工具大全,助力做AI时代先行者!

在今年2月份,复旦大学成功推出了类似于ChatGPT的对话式大型模型MOSS。仅仅两个月过后,这款模型正式开源,从而成为了我国首个具有插件增强功能的开源对话语言模型。紧接着在今年的7月份,复旦大学MOSS系统的负责人邱锡鹏在世界人工智能大会的“大模型时代的通用人工智能产业发展机遇以及风险”分论坛上,针对“技术、实现与展望”等主题,详细介绍了MOSS的最新研发动态。

近年来,AI领域的模型规模不断扩大,每隔半年模型规模就能翻一番,呈现出指数级的增长趋势。今年,随着ChatGPT逐渐成为全球焦点,大语言模型的热度持续升高。然而,关于何谓“大语言模型”的问题,学界至今仍无定论。尽管如此,我们可以大致判断,所谓的“大语言模型”应该在千亿至万亿规模之间,但这仅仅是一个估算,并非绝对准确。这主要是因为ChatGPT尚未开源,也未公开其最新的参数信息。

在人工智能领域中,ChatGPT为学术研究带来了巨大的潜力。邱锡鹏指出,当前的AI主要表现为“弱人工智能”,连AlphaGO这样的AI只能专注于围棋。然而,通用人工智能(AGI)则是所有人工智能研究者梦寐以求的目标。

ChatGPT,这个备受期待的人工智能助手,其发展速度之快超出了人们的预期。自2018年OpenAI公司推出首款ChatGPT以来,仅仅用了短短四年多的时间,就从版本1升级至了版本4,实现了革命性的突破。这一迅速的发展速度,不仅彰显了人工智能技术的日益成熟,也体现了ChatGPT在人工智能领域的强大影响力。

在我国的科研领域中,复旦大学在大型模型(大模型的缩写)的研究上,走在了行业的前沿。该大学在Transformer架构以及针对中文的预训练模型的开发上,已经积累了丰富的经验。然而,当全球知名的人工智能助手ChatGPT出现后,许多人开始认为我国在这方面与国外的差距正在加大。但事实上,复旦大学已经成功研发出了MOSS,证明了并非只有OpenAI具备开发对话式大型模型的能力,MOSS的基本功能基本上可以通过对ChatGPT的理解进行复现。

MOSS的基础架构采用了Transformer模型,它的第一版在今年1月面世,与ChatGPT的内容一致,即“用户说什么MOSS都可以接话”。然而,在任务完成度方面,MOSS与ChatGPT还存在一定的差距。尤其是在推理和知识能力方面,第一代MOSS的判断容错量相对较小,经常会出现“很多事实记不住”的情况。为了改善这一问题,复旦大学团队采取了两个主要策略。首先,他们不断扩大MOSS的模型规模,以提升其整体性能。其次,他们尝试将MOSS作为一种开发工具,以便更好地满足实际需求。

今年2月,复旦正式发布对话模型MOSS后,将一部分研发精力放在如何把使用工具的能力打通,于是在4月推出了开源插件版模型MOSS-Plugin。“目前MOSS还在持续迭代,如最新版MOSS已经能够在中文能力上基本超过ChatGPT。”邱锡鹏说。

大语言模型除了“聊天”,还具备哪些用途?邱锡鹏介绍,在具体的行业应用中,通过使用插件,大语言模型可自主搜集新闻和实时信息进行汇总,成为得力的个人助理。大语言模型还可进行数学运算,或者列一个方程让计算器来解答。此外,MOSS在预防“有害道德”方面也进行了优化,会避免回答有悖道德的问题,让人工智能具备较强的道德感。“大型语言模型的一大亮点,就是能把外来需求或复杂任务进行拆分,找到不同的工具来解决问题。”邱锡鹏说。

“大模型不能只有大公司才能‘玩得起’,高校、学生和普通爱好者都应该‘玩得起’大模型。”邱锡鹏表示,仅靠头部公司“砸钱”研发大模型,并不能助推该领域健康有序发展,因为大语言模型中涉及许多科学问题和学科类问题需要解决,在实现复杂推理、高效架构、知识融合和制定学习策略方面,有许多问题需要学术团队和广泛的研究者来支撑。

围绕MOSS,复旦团队将持续展开大模型方面的研究,涵盖能力强化、知识对齐、模态融合和开源开放等领域。目前,复旦MOSS团队正通过参与大型语言模型生态建设,在未来实现集对话模型、模型微调、AIGT检测、模型对比和模型评测等于一体的开源开放平台。

栏目主编:唐烨 题图来源:2023世界人工智能大会

来源:作者:舒抒

AI时代,拥有个人微信机器人AI助手!AI时代不落人后!

免费ChatGPT问答,办公、写作、生活好得力助手!

搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注