文心千帆大模型平台：百度推动AI向内革命

文 | 周鑫雨

编辑 | 苏建勋

在大模型“扎堆”发布的当下，市场亟需更直观的方式，对模型能力做出判断。

在2023年3月16日的百度文心一言发布会上，该模型的展示形式采用了录播 Demo。在36氪的采访中，百度首席执行官李彦宏阐述了他选择这种演示方式的原因：

生成式AI所提供的答案可能存在差异性,这一点带来了一定的不确定性。然而,在各种类似发布会上,全球范围内并没有一场是现场演示的,而全部是通过录制的方式呈现的。既然其他场合都能够采取这样的方式,我们也可以考虑采用这种模式。

在经历了一个月多的沉默之后，百度在最近的一次技术交流会上，展示了一种全新的、具有创新性的风格。这次会议中，百度团队不拘泥于传统，而是选择现场呈现其最新的“文心千帆大模型平台”能力。这种转变无疑表明了百度对于技术研发的重视，以及其在大模型平台领域的深度布局。

2023年3月27日，我国知名科技巨头百度公司推出了一款全新的文心千帆大模型平台。这款平台整合了文心一言服务的调用功能、第三方模型的训练与调优服务，以及一系列便捷的工具，堪称一站式建模解决方案的典范。值得注意的是，该平台主要分为两大服务板块：公有云服务和私有化部署。在公有云服务方面，文心千帆大模型平台提供了全面的服务支持，包括文心一言推理能力的调用、模型微调、模型托管等功能。这使得用户可以轻松地将自己的模型部署到云端，享受强大的计算能力和丰富的算法的支持。对于私有化部署，平台也提供了一系列的服务，如软件授权、软硬一体和租赁服务等。这些服务可以帮助用户在本地环境中部署自己的模型，充分发挥数据的优势，同时确保数据的安全性和稳定性。总之，百度文心千帆大模型平台的推出，无疑为我国的开发者提供了一个强大且灵活的建模解决方案。无论是公有云还是私有化部署，平台都充分体现了科技的力量，为广大用户提供高效、便捷的服务体验。

此次现场演示，百度主要展现了文心千帆的推理能力调用和模型微调两部分。

文心一言Sugar现场生成了销售额的饼图。

在观察演示结果时，我们可以发现，文心一言旗下的数据可视化工具Sugar具有卓越的理解能力，能够轻松应对结构化数据集，并迅速生成饼图。然而，当面临模型难以解读的“绘制折线图”需求时，百度程序员并未气馁。他们借助文心千帆大模型平台的力量，通过微调功能，将100条标注数据导入到Prompt中，实现了折线图的功能。这一解决方案充分展示了文心一言及其相关技术的强大实力。

文心千帆支持模型微调。

这表明，文心千帆已具备在仅用约100条左右的数据标注的情况下，高效地进行模型微调和定制的能力。百度智能云AI与大数据平台总经理忻舟阐述道：“文心千帆提供了易用的大模型训练和推理平台，通过图形化界面，让用户无需了解代码或执行命令行操作，只需关注核心业务数据和应用，就能在文心千帆平台上进行各类训练和优化。”

在AI时代的大背景下，百度内部的”向内革命”正在逐步展开。其核心业务板块，包括百度搜索、推荐、地图、如流、小度等，都已经成功接入文心一言，这无疑为百度在智能化转型中迈出了坚实的一步。

作为一款在百度内部广泛应用的办公软件，“如流”近日正式上线了AI小助手。当谈到行业大模型训练的成本时，这个智能助手给出的答案是“10万-50万卡时”。

百度集团副总裁侯震宇表示，对客户而言，成本和模型性能才是评价大模型的两项指标。

“训练一个大模型，动辄三个月，一两千万美元，假如每一个企业都需要付出这么高的代价，门槛那么高，显然百度也不会进入这个市场。”他表示，即便从头训练模型的成本依然高昂，但是使用大模型、以及基于大模型底座训练和微调模型的成本已经有显著的降低，“现在调用文心一言的成本，已经降低到模型刚发布时（3月16日）的10%”。

近期，一份从谷歌内部泄露的文件揭示了未来闭源大模型的发展趋势。据文件显示，随着 Meta 自研大模型 LLaMa 的曝光，开源模型生态系统正以前所未有的速度快速发展。此种情况的出现，主要源于开源模型的广泛应用和企业对其的认可。在这份文件中，还明确指出，企业可以免费使用这些开源模型，且具有更高的灵活性和可控性。谷歌和 OpenAI 均不存在技术壁垒。

“大家觉得大模型成本非常高，是因为大模型算力成本高，其次是大模型数据成本。开源模型也绕不开大量的GPU，所以并不是开源成本一定低。”侯震宇则向36氪给出了相反的答案。

他认为，免费开源模型的调用成本并不意味着更低：“一方面，一般企业不见得能够用得起两三千张集群卡，另一方面是不一定能够用好，在这么大的集群量中如果出现了BUG很难调整，需要有整体的调优服务能力。大模型贵是因为量大且训练时间长，在成本这方面，最终要看是否有整体端到端的成本控制能力，这样一定会比纯粹去买成本要低。”

随着大模型的落地逐渐从“摸石过河”走向实践的“中场战事”，低成本和高性能将是不同大模型厂商不断演练的课题。

36kr制图