文心一言：大语言模型的理解和生成能力)

IT之家 8 月 10 日消息，近日，清华大学新闻与传播学院教授、博士生导师沈阳所在团队发布了《大语言模型综合性能评估报告》（下文简称“报告”），报告显示总得分率 GPT-4 第一，百度文心一言在三大维度 20 项指标中综合评分国内第一，超越 ChatGPT，其中中文语义理解排名第一，部分中文能力超越 GPT-4。

在本次评估中，我们选择了GPT-4、ChatGPT 3.5、文心一言、通义千问、讯飞星火、Claude、天工七个顶级大语言模型进行研究。这三个大语言模型被全面审查，以确保其在生成质量、使用性能和安全与合规三个主要方面的表现都符合我们的标准。具体来说，我们对这些模型的20个关键指标进行了全面的考察，包括上下文理解、中文语义理解、误导信息识别、逻辑推理、内容安全性以及隐私保护等方面。在我们的评估中，文心一言的表现尤为出色，特别是在中文语义理解方面，它展现出了超强的能力。此外，它还能更好地理解和掌握中国的文化特色，这都要归功于其知识增强、检索增强和对话增强等技术创新。这些创新使得文心一言在处理复杂问题时，能够做出更加准确、合理的判断和决策，从而提供更高质量的回答。

在生成质量方面，基于对语义理解、输出表达、适应泛化的综合评测，文心一言得分率 76.98%，仅次于 GPT-4，领先于包括 ChatGPT 在内的其他大语言模型。其中，在部分中文语义理解方面，文心一言以 92% 的得分率排名榜首。

IT之家的一项研究发现，在对内容安全性、偏见和公平性以及隐私保护等方面的综合评估中，文心一言的得分为78.18%，与GPT-4一同位居榜首。这充分展示了文心一言在安全合规方面的优秀表现。