文章主题：北京市, 科学委员会, 中关村科技园区管理委员会, 北京市海淀区政府
在9月6日这个特殊的日子里，北京市科学技术委员会、中关村科技园区管理委员会以及北京市海淀区政府联合指导，我国知名的人工智能企业——百川智能，举办了一场以“百川汇海，开源共赢”为主题的大型发布会。在这次发布会上，百川智能不仅正式推出了经过微调的Baichuan 2-7B、Baichuan 2-13B、Baichuan 2-13B-Chat及其4bit量化版本，而且这些新技术都是完全免费且可以商业使用的。这一举动充分展示了百川智能对于开源社区的积极支持和推动人工智能技术进步的热忱。同时，这也是对我国人工智能产业的一种有力促进，将激励更多的企业和研究机构投身于人工智能的研究与开发，共同推动我国人工智能产业的繁荣发展。
百川智能近期再次开放了模型训练的关键节点，同时宣告即将推出Baichuan 2技术报告。这份报告将深入揭示Baichuan 2的训练过程，从而让大模型学术研究机构、开发者和企业用户能够更加深入地理解其训练方法，进而有力推动大模型学术研究的进展以及社区的技术发展。
本文将深入探讨Baichuan 2-7B-Base和Baichuan 2-13B-Base这两个强大的语言模型，它们都是基于2.6万亿高质量多语言数据进行深度训练的。这两个模型的出现，进一步提升了它们的生成和创作能力，使得多轮对话更加流畅，同时部署门槛也得到了极大的降低。首先，我们需要明确的是，Baichuan 2-7B-Base和Baichuan 2-13B-Base在保留了一代开源模型优秀特性的基础上，有了显著的提升。这包括在数学、代码、安全、逻辑推理和语义理解等多个方面的能力的提升。具体来看，Baichuan 2-13B-Base相较于上一代的13B模型，在数学能力上提升了49%，在代码能力上提升了46%，在安全能力上提升了37%，在逻辑推理能力上提升了25%，以及在语义理解能力上提升了15%。这些数据的对比充分展示了Baichuan 2-13B-Base在各个方面的显著进步。总的来说，Baichuan 2-7B-Base和Baichuan 2-13B-Base的训练，不仅保留了上一代开源模型的优点，更在多个关键领域实现了突破性的提升，从而使其成为更为强大和实用的语言模型。
Baichuan2-7B与Baichuan2-13B的开放程度不仅限于学术研究，其对于商业使用的限制也十分宽松。开发者只需通过电子邮件申请，在获得官方商用许可之后，便可尽情运用这两个工具进行免费的商业活动。
大模型训练的过程涉及多个关键步骤，其中包括获取大量高质量的数据、构建稳定的大规模训练集群以及优化模型算法等。这些环节都需要消耗大量的人力和计算资源，使得从无到有地完整训练一个大模型所需的投资变得巨大，这限制了学术界对大模型训练的深度研究。
秉持着协作与持续优化的理念，百川智能此次开放了从220B到2640B完整模型训练流程的Check Point。这一举措对于科研单位深入探究大模型训练过程、推动模型持续优化以及确保模型的价值观一致性等方面具有极高的参考价值。这无疑将极大地推进我国大模型研究的进展，同时也将开创我国开源训练模型的新篇章，这是我国开源生态领域的一次重大突破。
百川智能自成立之初，就将通过开源方式助力中国大模型生态繁荣作为公司的重要发展方向。成立不到四个月，便相继发布了Baichuan-7B、Baichuan-13B两款开源免费可商用的中文大模型，以及一款搜索增强大模型Baichuan-53B，两款开源大模型在多个权威评测榜单均名列前茅，目前下载量超过500万次。
此次开源的两款Baichuan 2大模型，得到了上下游企业的积极响应，腾讯云、阿里云、火山方舟、华为、联发科等众多知名企业均参加了本次发布会并与百川智能达成了合作。
文/北京青年报记者 温婧
编辑/樊宏伟
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
