《文心千帆大模型平台：百度全新一代AI基础设施》

文 | 周鑫雨

编辑 | 苏建勋

在大模型“扎堆”发布的当下，市场亟需更直观的方式，对模型能力做出判断。

在2023年3月16日的百度文心一言发布会上，该模型采用了录播Demo的形式进行展示。在36氪的独家专访中，百度首席执行官李彦宏对此现象进行了阐述，他解释道：“之所以选择这种形式，是为了更好地呈现模型的实际应用效果。”

生成式AI所提供的答案可能存在差异性,这一点带来了一定的不确定性。然而,在各种类似发布会上,全球范围内并没有一场是现场演示的,而全部是通过录制的方式呈现的。既然其他人都采用同样的方式,那么我们也可以接受这种做法。

在经过了一个月多的沉默之后，百度在最近的一次技术交流会上，展示出了他们全新的、开放的风格。这次，他们不是仅仅停留在理论层面，而是以实际行动向外界展示了他们的研究成果。具体来说，他们呈现了“文心千帆大模型平台”的现场操作，让人们看到了这个强大模型的实际应用能力和效果。

2023年3月27日，我国知名科技巨头百度公司推出了一款全新的文心千帆大模型平台。这款平台整合了文心一言服务的调用功能、第三方模型的训练与调优服务，以及一系列便捷的工具，堪称一站式建模解决方案的典范。值得注意的是，该平台主要分为两大服务板块：公有云服务与私有化部署。在公有云服务方面，用户可以尽情享受到文心一言推理能力的调用、模型微调以及模型托管等功能。而在私有化部署方面，则提供软件授权、软硬一体以及租赁服务等多样化选择。这样的布局既满足了不同用户的多元化需求，也进一步提升了整个行业的创新与发展水平。

此次现场演示，百度主要展现了文心千帆的推理能力调用和模型微调两部分。

文心一言Sugar现场生成了销售额的饼图。

在观察演示结果时，我们可以发现，文心一言旗下的数据可视化工具Sugar具有卓越的理解能力，能够轻松应对结构化数据集，并迅速生成饼图。然而，当面临模型难以解读的“绘制折线图”需求时，百度程序员并未气馁。他们借助文心千帆大模型平台的力量，通过微调功能，将100条标注数据导入到Prompt中，实现了折线图的功能。这一解决方案充分展示了文心一言及其相关技术的强大实力。

文心千帆支持模型微调。

这表明，文心千帆已具备在仅用约100条左右的数据标注的情况下，高效地进行模型微调和定制的能力。百度智能云AI与大数据平台总经理忻舟阐述道：“文心千帆提供了易用的大模型训练和推理平台，我们无需了解代码或执行命令行操作，只需关注核心业务数据和应用，便可在文心千帆平台上进行各类训练和优化。”

在AI时代的大背景下，百度内部的”向内革命”正在逐步展开。其核心业务板块，包括百度搜索、推荐、地图、如流、小度等，都已经成功接入文心一言，这无疑为百度在智能化转型中增添了强大的动力。

作为一款在百度内部使用的办公软件，“如流”现已正式引入AI小助手。当谈到行业大模型训练的成本时，AI小助手给出的答案是“10万-50万卡时”。

百度集团副总裁侯震宇表示，对客户而言，成本和模型性能才是评价大模型的两项指标。

“训练一个大模型，动辄三个月，一两千万美元，假如每一个企业都需要付出这么高的代价，门槛那么高，显然百度也不会进入这个市场。”他表示，即便从头训练模型的成本依然高昂，但是使用大模型、以及基于大模型底座训练和微调模型的成本已经有显著的降低，“现在调用文心一言的成本，已经降低到模型刚发布时（3月16日）的10%”。

近日谷歌内部流出的一份文件表示，未来OpenAI和谷歌等厂商开发的闭源大模型将不可避免地受到开源模型的冲击。有其随着Meta自研的大模型LLaMa泄露，围绕这一基座的开源模型生态正在迅猛地发展。文件还提到，企业可以免费使用开源模型，并且更加灵活可控。“我们没有壁垒，OpenAI也没有”。

“大家觉得大模型成本非常高，是因为大模型算力成本高，其次是大模型数据成本。开源模型也绕不开大量的GPU，所以并不是开源成本一定低。”侯震宇则向36氪给出了相反的答案。

他认为，免费开源模型的调用成本并不意味着更低：“一方面，一般企业不见得能够用得起两三千张集群卡，另一方面是不一定能够用好，在这么大的集群量中如果出现了BUG很难调整，需要有整体的调优服务能力。大模型贵是因为量大且训练时间长，在成本这方面，最终要看是否有整体端到端的成本控制能力，这样一定会比纯粹去买成本要低。”

随着大模型的落地逐渐从“摸石过河”走向实践的“中场战事”，低成本和高性能将是不同大模型厂商不断演练的课题。

36kr制图