文章主题:复旦大学, 计算机科学技术学院, 邱锡鹏, MOSS系统
·MOSS系统负责人邱锡鹏表示,最新的MOSS已经能够在中文能力上超过ChatGPT,可以通过使用工具来为用户提供帮助,并在预防“有害道德”方面做了很多优化。
·邱锡鹏认为,通用大模型除了算力需求大以外,目前依然在可信性、安全性、逻辑性等方面存在许多挑战,里面有非常多的科学问题并没有被解决,这些都需要高校研究团队进行重大科研攻关。
在2023年7月7日的世界里人工智能大会上,复旦大学计算机科学技术学院的邱锡鹏教授,作为MOSS系统的负责人,发表了一场精彩的演讲。
在今年的7月7日,于2023世界人工智能大会上,复旦大学计算机科学技术学院的教授兼MOSS系统的负责人邱锡鹏在“大模型时代的通用人工智能产业发展机遇以及风险”的论坛上,阐述了中国首个对话式大型语言模型MOSS自今年2月发布以来的发展情况。他表示,经过连续不断的迭代,MOSS的最新版本已经在中文能力上超越了ChatGPT。
邱锡鹏在演讲中指出,MOSS具有强大的功能,能够为用户提供各种支持。尽管MOSS本身并不具备绘画技能,但它却能利用文字生成图片的插件来实现图形的呈现。此外,在算术运算方面,MOSS也能运用计算器和解方程器等工具来处理复杂数学问题。当用户向MOSS咨询未在知识库中找到的实时信息时,MOSS便会启动搜索引擎,并根据搜索结果给出更为详细的解答。例如,它每日会抓取最新的新闻,并为用户提供相应的新闻链接与内容摘要。
邱锡鹏揭示,在MOSS发布之后,他们的团队将注意力的一部分转移到了如何提升用户使用工具的能力上。并在今年四月份推出了开源插件版的模型MOSS-Plugin。他强调,作为一种与外界互动的重要方式,插件功能在未来将会变得愈发重要。
MOSS在防止“有害道德”方面表现出了显著的优化成果。针对违反道德的行为,MOSS会主动回避回答,而通过不断优化算法,使得MOSS具备了高度的道德认知和敏感度。除此之外,MOSS还具备角色扮演的能力,可以针对不同的用户需求进行个性化的优化,进一步提高其服务水平和用户体验。
邱锡鹏强调,当前大型语言模型的主要成本开销在于第一阶段,也就是预训练(Pretraining)。他解释说,这些大型模型并非只有大公司能够承担得起的,未来,包括高校、普通爱好者以及学生在内的更多人都有可能参与到其中。他进一步指出,后续阶段的成本相对较低,如预训练后的监督微调、迭代优化、推理部署、模型评测等,但这些都是真正的挑战所在。尽管预训练阶段并不适合所有人参与,但后面的各个阶段却包含着许多科学问题等待我们去深入研究和解决。
大模型仅仅只是工程问题,高校和学术团体做大模型没有意义?邱锡鹏并不这么认为。公司投入金钱与工程师来推进工程的确重要,但大模型如果仅仅靠公司是没办法真正做好的。“大模型里有非常多的科学问题需要广大研究者参与。如果离开了学术团队,大模型可能会缺少非常多的理论和技术支撑。”
邱锡鹏进一步指出,“通用大模型除了算力需求大以外,目前依然在可信性、安全性、逻辑性等方面存在许多挑战,这里面有非常多的科学问题并没有被解决,比如智能如何涌现、复杂推理如何实现、高效架构、学习策略,以及如何做更好的知识融合,这些都需要高校研究团队进行重大科研攻关。”
复旦团队将围绕MOSS持续开展大模型其他方面的研究,包括能力强化、知识对齐、模态融合和开源开放,进一步迈向通用人工智能。
邱锡鹏在论坛中还介绍了正在建设中的开源语言模型平台OpenLMLab,该平台的下层将对接国产通用框架和预训练模型库,而上层会面向大模型生态方面的应用。
据介绍,OpenLMLab集对话模型、模型微调、模型对比和模型评测等领域于一体。MOSS是该开源平台的对话模型,而COLLiE是模型微调的工具库,将来会进行强化学习迭代。此外,该平台支持AI生成文本检测软件Sniffer和快速对比多个对话大模型效果的工具ChatZoo。
邱锡鹏在演讲结尾还介绍了一款名为Gaokao的工具,基于高考题目进行模型评测。“我们认为,现在有许多大模型的榜单都不太全面或权威,然而人类的考试是非常全面和权威的,例如高考。基于它,我们可以评测各种大模型的能力。高考的题目还有另一个好处,由于每年高考题目都会更新,基本上大模型不太会存在刷题的嫌疑,因此每年都可以有新题目来比较不同的大模型。”
AI时代,拥有个人微信机器人AI助手!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!