文章主题:关键词:文心一言,百度,OpenAI,GPT-4,人工智能,语言模型,生成式AI产品,发布会,股价波动,实测,中文理解,多模态生成,文学创作,商业文案创作,数理逻辑推算,中文理解,资本市场,信心,股价走势,测试资格,实测结果,反馈,提升,通用人工智能
【文/观察者网 周毅 吕栋】
尽管OpenAI前一天发布的GPT-4引起了广泛关注并给市场带来了一定的压力,但百度公司依然如约执行其原计划,在上周四成功推出了他们的大型语言模型和生成式AI产品——“文心一言”。
把时间拨回到发布会召开那一刻。
在文心一言成为“国内首个”的开创性产品后,百度公司的首席执行官李彦宏明确表示,文心一言在品质上与ChatGPT和GPT-4等先进技术相媲美,但要保持这样的地位仍需付出更多的努力。他坦诚地承认,尽管自己进行了多次测试,但仍发现文心一言存在诸多尚待完善之处。
或许是因为某种态度,以及李彦宏在活动现场通过录屏演示的行为,导致资本市场信心受到冲击。在发布会的核心阶段,百度股票出现了短期内的急剧下跌。
随着“文心一言”逐渐向公众开放体验,并伴有百度公布“申请测试企业突破9万”的消息,资本市场的观点开始出现分歧,甚至出现了反转。
上周五,我国知名搜索引擎公司百度的股票录得14%的大幅上涨。随着本周的来临,百度股票继续保持强劲的走势,的开盘上涨幅度达到了3%,然而收盘时的涨幅则略有收窄,大约在1%左右。这不仅带动了百度自身的股价表现,同时也刺激了与其相关的概念股的拉伸。
百度股价走势
在发布会上, “文心一言” 展示了文学创作、阅读、涂鸦以及音乐、绘画等功能。然而,由于演示环节采用视频形式,因此有些网友将其戏称为“ChatPPT”。
针对“文心一言”这款产品的实际表现,尤其是在真实场景中的应用能力,其水平究竟如何呢?这个问题一直困扰着人们。为此,实力强大的“观察者网”终于在获得测试资格之后,对其进行了详尽的实际操作与评测。
首先,我们需要对李彦宏的言论进行概括。他认为,尽管文心一言存在一些不足,例如并非完美且仍有很大的提升空间,甚至偶尔会出现错误,但即使是强大的GPT-4也无法完全避免这些问题。
在实际测试中,文心一言的表现出乎意料地并没有想象中那么糟糕,甚至在某些情况下甚至显得有些超乎预期。随着公测的逐步开放,收到的反馈也日益增多,这有利于我们更好地理解和优化文心一言这类大型语言模型的性能。
文心一言生成的图片
实测“五大功能”,部分结果出乎意料
在发布会上,李彦宏相继介绍了文心一言的五个功能:文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成。
利用这五个功能,文心一言帮刘慈欣续写了《三体》,介绍了洛阳纸贵背后的经济学原理,计算了鸡兔同笼数学题,并根据指令生成了海报和一段宣传视频。
在真实场景中,文心一言的水平如何?观察者网也一一测试了这五个功能。
首先是文学创作。
在接收到“用观察者网四个字做一首藏头诗”的指令后,文心一言输出的结果如下:
从结果来看,文心一言理解了藏头诗的指令,但内容乏善可陈,算不上优秀,只能说是以诗歌的格式输出了几句话,而且其中一句并不符合指令的要求。
当把“观察者网”四个字打了双引号后,输出的结果则改进了不少。
第二个场景是商业文案创作。
在接收到“为观察者网制作一条宣传口号”的指令后,文心一言输出了以下内容:
从结果来看,文心一言的表现可以说有些出人意料。
因为它不仅按指令要求制作了一条口号,而且还解释了口号所蕴含的意义。
更关键的是,它好像还十分了解观察者网的日常工作内容,强调了“观察者网提供的内容不仅仅局限于中国,而是全球范围内的新鲜资讯和独特视角。”
这和观察者网“全球视野,中国关怀”的定位已十分接近。
在商业新闻稿生成方面,文心一言的表现也可圈可点,准确理解了指令要求和人物角色。
第三个场景是数理逻辑推算。
先用小品中的“经典案例”考验一下文心一言。
从测试结果来看,文心一言在简单的数学计算理解上没有问题,但在沟通的连续性上似乎表现的并不好,这在一定程度上影响了对话体验。
再换一个小学生日常会遇到的试题,文心一言很快给出了正确答案。但当被问到解题思路时,文心一言则理解错了题意,并给出了错误的答案。
再换一个类似数学题,文心一言好像又理解错了题意,直接给出了错误的答案(正确答案:鸡有12只,兔有19只)。
可见,在数理逻辑推算方面,文心一言还有很大进步空间。在目前水平下,如果问题表达的不够清晰,文心一言很容易给出错误答案。
第四个场景是中文理解。
其实在前面的场景中,已经在一定程度上体现了文心一言的中文理解能力,这里再用两个例子考验一下它。
在以上几个问题中,文心一言体现了自己的中文语言理解能力。但在另外一些问题上,它则切入了“一本正经胡说八道”的模式。
第五个功能是多模态生成,即输入和输出的内容不限于文字,可以根据文字生成图片、语音或视频,这个功能也是ChatGPT不具有的。
在“文生图”方面,文心一言在简单要求下表现的中规中矩,基本上理解了指令要求。
但在用诗词生成图片方面还有待进步。
文心一言的视频生成能力则因成本较高,现阶段还未对所有用户开放,但它会给出拍摄相关视频的方法,这一点值得肯定。
对比火热的ChatGPT,表现如何?
人们之所以关注文心一言,最主要的原因就是ChatGPT的爆火。作为首个“中国版ChatGPT”,文心一言在与真正的ChatGPT同台竞技时,表现又会如何呢?
由于账号限制等客观原因,观察者网选择了ChatGPT免费版(基于GPT-3.5,没有参与3月14日的GPT-4更新),以及文心一言测试版(版本号为V1.0.0,发版日期为3月14日)。试验中,每款程序的回答结果均选取初次生成的内容,不作反复刷新。
第一组问题,主题为“自我介绍”和“如何看待对方”,观察者网分别询问了两个模型。
不难看出,在本轮实测中,两个语言模型在介绍对方时都显得比较客观。
细微的差别是,ChatGPT更加高调,它不仅介绍了自己可以完成的任务类型,还强调自己“不断学习和进化”,“不仅支持中文,还支持多种语言”,“规模比文心一言大得多,训练数据也更加丰富”等,对于可能更适合文心一言的应用场景,它也进行了描述。
相比之下,“文心一言”则相对谦虚或低调,它表示,“每个模型都有自己的特点和优势,不能简单地评价‘谁更厉害’”。
但要指出的是,ChatGPT训练是基于一个固定的数据库,截止日期是2021年9月,也就是说ChatGPT无法掌握从那以后世界上发生的任何事的信息。
因此,它对文心一言的评价可以说是“一本正经胡说八道”,但这不能算是它的错。
第二组问题与经济和财经相关,要求两个模型对股价波动进行解释,以及对二级市场进行预测。前者需要两款模型对“3月16日文心一言发布后,百度股价盘中大跌”的现象进行说明;后者要求两款模型展望A股后期走势。
对于百度股价的波动,ChatGPT和文心一言都强调,自己只是“人工智能语言模型”,它们也都对可能导致股价波动的原因进行了罗列。
差别在于,ChatGPT使用了“从道理上讲”这样的表述,看上去更“冷淡”一些;而文心一言更主动,强调自己“没有情感和个人喜好”,也不会偏袒任何一方。
值得一提的是,文心一言对金融市场的风险进行了额外的提醒,下一个问题也不例外。
在预测A股走势上,文心一言显得本地化了很多,它主动给出了一般性预测,例如中国宏观经济、政策监管、全球市场走势和产业技术迭代可能带来的影响——遗憾的是,或许因为训练数据等限制,文心一言将“预测A股走势”的时间锚定在了2022年。
ChatGPT的回答,显得有些“放之四海而皆准”,似乎可以套用在任何一个股票市场上。
这里仍要说明一下,ChatGPT并不了解2021年9月之后的任何事。
第三个问题,聚焦在数学逻辑推理上。
以前文的问题为例,“鸡、兔共有脚100只,若将鸡换成兔,兔换成鸡,则共有脚86只,鸡兔各有几只?”
文心一言对题意理解有误,给出了错误答案。
ChatGPT则让人眼前一亮,直接开始列方程解答,这一点似乎比文心一言更加“聪明”。但遗憾地是,虽然方程列对了,但答案仍然是错的。当我们把问题重复一遍后,ChatGPT也出现了理解上的偏差。
当话题转向中国古代诗词领域,两个大模型都“翻车”了。
在被要求鉴赏古诗“停车坐爱枫林晚”(出自唐代诗人杜牧的《山行》)时,ChatGPT率先暴露了一些问题。
ChatGPT,首先弄错了《山行》的作者,将其标注为王之涣;其次,在《山行》的首联和颔联之后,ChatGPT开始了“编造”,第三句“慕容琳娜轻冰脆”并未在现有诗句中觅得,第四句“昨夜星辰昨夜风”来自唐代李商隐;第五到八句的《鹊桥仙》来自宋代秦观。
相较于ChatGPT,文心一言的鉴赏虽然较为简短,但并没有明显事实性错误。
当测试以一种类似开放对话的形式,要求两款程序对“停车坐爱枫林晚”作者的其他诗歌作品进行罗列时,两者都出现了问题。
ChatGPT因为弄错了《山行》的作者,错误地罗列出了《登鹳雀楼》和《凉州词》,还将唐代杜甫的《登岳阳楼》也罗列了出来。
刚刚“侥幸逃过一劫”的文心一言,在第二个问题中很快暴露了隐藏的问题。它将开放对话“这首诗的作者”标记为唐代的杜甫,并提供了杜甫的三首诗歌。对于“停车坐爱枫林晚”的作者问题,文心一言也“翻车”了。
在之前的宣传中,ChatGPT一度以擅长“做题”著称。那么,当ChatGPT和文心一言同时面对中国的高考题目时,二者又会有何种表现?
本次试验以去年北京高考语文作文题目“学习今说”为主题,让ChatGPT和文心一言同时撰写了一篇不少于700字的文章。就初次生成的结果来看,两款程序都展示了一定的逻辑和语言组织能力。
但ChatGPT的回答显得更有“机器味”,它看上似乎仅仅根据“学习”这个主题词就完成了整篇作文,和材料的贴合度不高。
文心一言的回答,就显得切题了很多,类似中学生作文一样,文心一言显示对“学不可以己”这段材料进行了说明,并用它作为引子,展开了全文。
在后续行文中,文心一言更为成熟。它既有论点+论据这样类似高考作文结构的表达,也对一些回答,进行了分层论述,它的内容更加详实和丰富,看上去也比ChatGPT的作文更像“真人”,这也在一定程度上体现了文心一言的中文能力。
从以上实测问题来看,备受吹捧的ChatGPT并不是一个“全能战士”,吸引了诸多眼球的“文心一言”也不能令人完全满意,二者都会出现“一本正经胡说八道”的情况。但它们的表现也都没有想象中的那么差,甚至在部分场景中会让人眼前一亮。
在发布会当天股价暴跌后,市场上对文心一言开始出现更多包容性观点。有业内人士坦言,人工智能及其衍生的AIGC十分重要,无论国内做得如何,都得先有一个产品出来。也有市场观点认为,文心一言不需要碾压ChatGPT,只要能做到超过及格线,就很不错了,毕竟这才是第一代产品。
近日在亚布力论坛第二十三届年会上,百度CEO李彦宏谈及外界对文心一言的评价,表示外界对文心一言的反馈跟他预期差不多,ChatGPT刚出来时的反馈比文心一言还要糟糕。
李彦宏坦言,“文心一言”是一个非常典型的、要靠“反馈”才能不断提升的模型,“这也是我为什么很希望及早地把它给发出来”。
通用人工智能的实现不可能“一蹴而就”,或许经过更多数据的训练和用户的“再教育”,ChatGPT和文心一言这类大模型才会表现的更好。
值得警惕的是,在ChatGPT(基于GPT-3.5)火热的同时,OpenAI已在3月15日发布新的多模态模型GPT-4,并称“这是我们迄今为止功能最强大的模型!”
要想在这一领域不落人后,中国企业必须加大投入力度。
看到以上表现,你会如何评价文心一言?
(题图由文心一言生成)
AI时代,拥有个人微信机器人AI助手!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!