百川智能首次公开ToB技术路线，发布搜索增强Baichuan2-Turbo系列API

来源：新浪科技

今日下午，新浪科技报道了百川智能公司首次公开其针对企业市场的技术方案。同时，该公司也宣布推出基于搜索增强的Baichuan2-Turbo系列API，包括Baichuan2-Turbo-192K和Baichuan2-Turbo。这一API在支持192K超长上下文窗口的基础上，进一步强化了搜索功能并增强了知识库。

从今天起，我们的API用户可以利用上传文本资料的方式，构建属于自己的知识库。这一举措将有助于我们更好地满足他们的业务需求，为他们提供更为完整且高效的智能解决方案。同时，为了提升用户体验，百川也对其官网模型进行了升级。现在，官网大模型已经能够支持PDF、Word等多文本上传方式，以及URL网址的输入。用户只需通过官网入口，便可享受到搜索增强和长窗口加持后的通用智能服务。

王小川，百川智能的创始人和首席执行官，坚信搜索增强技术是大模型发展的必然选择。他提出，这种技术可以有效地解决幻觉、时效性差以及专业知识不足等问题，这些问题一直阻碍着大模型的应用。具体来说，搜索增强技术不仅可以提升模型的性能，使其具备“外挂硬盘”的能力，而且可以让大模型更好地理解用户的意图。在互联网和专业/企业知识库的海量文档中，它能够找到与用户意图最相关的知识，并将这些知识加载到上下文窗口中。接着，通过长窗口模型对这些搜索结果进行总结和提炼，以充分利用上下文窗口的功能，帮助模型生成最优结果。这样一来，各个技术模块就可以联动起来，形成一个强大的能力网络，从而实现大模型的最佳应用。

王小川强调，要克服企业应用中的难题，不能仅仅依赖行业大模型，而应该构建一套全新的技术栈，将大模型与领域知识和全网知识进行有机融合。他认为，通过这种方式，我们能够为企业知识库的个性化需求提供有效的解决方案。换句话说，只有借助于这种全新的技术栈，我们才能真正实现大模型在企业应用场景中的价值最大化。

王小川透露，百川智能利用长窗口搜索增强的方法，在原本的192K长上下文窗口基础上，将大型模型所具备的文本规模提升了两个数量级，达到了惊人的5000万tokens，相当于1亿汉字。通过搜索增强，模型可以根据用户的提示在海量的文档中快速检索出与之最为相关的内容，然后将这些文件与提示组合放入长窗口中，从而有效地降低了推理成本和时间消耗。

“百川智能所研发的搜索增强解决方案，经过优化后，成功解决了幻觉和时效性的问题，这使得大模型的可用性得到了显著提升。这一成果不仅拓宽了大型模型可以覆盖的领域范围，如金融、政务、司法、教育等行业中的智能客服、知识问答、合规风控以及营销顾问等场景，同时也大幅度降低了应用成本。这将使更多的中小企业也能从中受益，共享大型模型所带来的变革。”王小川这样表述。