商汤日日新大模型全面升级，SenseCore可支持20个千亿参数量大模型同时训练

电子发烧友网报道（文/李弯弯）今年4月10日，商汤科技正式首次公布“日日新SenseNova”大模型体系。在日前的2023世界人工智能大会上，商汤科技宣布“商汤日日新SenseNova”大模型体系将多方位全面升级，并宣布在该体系下一系列的大模型产品更新和落地成果。

“日日新SenseNova”全面升级及应用落地

商汤科技发布的“商量”2.0版本，是一个千亿级参数的自然语言处理模型，它突破了大语言模型输入长度的限制，推出不同参数量级的模型版本，可完美适配移动端、云端等不同终端及场景的应用需求，降低部署成本。商汤还推出小模型商量S版（SenseChat S）等不同参数量级的模型版本，小模型不但性能上有一定突破，在前端的运行上也能够跑到高通骁龙8 Gen2的终端芯片上，适配移动端等不同终端及场景的应用需求。另外，商汤全新的秒画3.0，模型参数从今年4月首发的10亿提升至70亿量级；如影SenseAvatar 2.0数字人生成平台，相较1.0版本的语音和口型流畅度提升30%以上，实现4K高清视频效果，并带来AIGC生成形象及数字人歌唱功能。基于神经辐射场技术（NeRF）的大场景3D内容生成平台商汤琼宇SenseSpace2.0，在空间重建效率上提升20%，渲染性能提升50%，每100平方公里场景的建图仅需38小时即可完成（1200 TFLOPS/秒算力支持），同等工作量由人工建图需要10000人天。商汤格物SenseThings 2.0对小物体的纹理及材质还原达到毫米级精细度，并突破对高反光和镜面物体的采集难题。在应用上，比如格物在线下场景的落地，商汤科技灵境空间事业部总监李宇飞介绍，目前，“格物”支持多种物品品类的复刻，并突破了行业难题——高反光、镜面物体的复刻，比如珠宝首饰、小家电、金属物件等。传统的重建技术通常难以解决高反光，镜面物体的采集和复刻。然而，“格物”不仅可以避免伤害和改变物品的情况，还能精确还原物品的外观和特征。除此之外，“格物”包含一键成图和一键成片等再创作服务。通过一键成图功能，用户可以生成商品与场景融合的海报，或者试穿试戴的真人海报，相比其他AI技术只能部分还原商品细节，一键成图可以100%还原商品的各个视角和效果。再比如影SenseAvatar 2.0数字人生成平台，商汤数字人在金融领域，银行、保险、券商等担任智能客服、智慧营销等工作，接入大语言模型能力，还能提供投研分析、研报撰写等新功能，实现降本增效。挂载金融知识库后，还能100%基于客户的产品说明进行内容问答输出，并实现信息及时更新。此外，商汤如影2.0生成的数字人，正在进入多个头部企业的直播间、短视频频道。

“大模型+大装置”的AGI战略布局

2022年，以GPT为代表的预训练大模型带来新一波AI应用的爆发，大模型的研发依赖于大规模智能计算基础设施。商汤科技坚持“大模型+大装置”的AGI战略布局。商汤科技打造了人工智能基础设施AI大装置SenseCore，打通算力、算法和平台，并在此基础上建立商汤“日日新SenseNova”大模型及研发体系。根据该公司2022年度报告，商汤SenseCore AI大装置持续扩建，完成2.7万块GPU的部署并实现了5.0 exaFLOPS算力输出能力，以AIaaS的模式面向行业伙伴提供服务，全面赋能商汤自身以及行业伙伴的大模型生产。SenseCore目前可有效支持最多20个千亿参数量大模型（以千卡并行）同时训练，最高可支持万亿参数超大模型的训练。目前，SenseCore已支持了超过10个大模型训练项目，包括语言大模型、文生图模型、视觉大模型、多模态模型等自研模型和客户自定义模型。同时商汤面向8家大型客户支持了7000多张GPU的计算资源，以服务其自定义的大模型训练任务。SenseCore提供的AIaaS具体包括了计算基础设施服务（IaaS）、深度学习平台服务（PaaS）、模型部署及推理服务（MaaS）三大部分的能力。1、强大的计算基础设施（IaaS）：SenseCore提供高性能计算资源（例如GPU集群和高速网络），以支持大型模型训练所需的强大算力。分布式训练构架支持千卡级别的大规模分布式训练，千卡并行效率达91.5%，最高支持4,000块GPU卡的单任务训练，有效降低训练时间，提升计算效率。2022年，位于上海临港的商汤AIDC开放运营，是由公司自建的大规模、低碳节能的先进计算基础设施，是目前亚洲最大的人工智能算力中心之一。上海临港AIDC的开业大大增强了SenseCore的高性能算力供应能力。2、易用的深度学习平台、丰富的开发工具、预训练模型库和开源体系（PaaS）：商汤提供易用的开发工具和深度学习平台，协助内外部高效构建和优化模型。也提供涵盖多个领域和场景的预训练模型库。用户可基于这些模型进行二次开发，大幅缩短研发周期，降低研发成本和风险。同时，公司开源了OpenMMLab、OpenGVLab、OpenDILab、OpenXRLab及OpenPPL五大平台，包含了共计2,500多种预训练模型及400多种算法，这些开源体系吸引全球AI开发者的参与，在Github上获得77,000+的星标。3、灵活的模型部署及推理服务（MaaS）：SenseCore支持用户将训练好的AI模型一键跨平台部署到云端、边缘设备或混合环境中。公司针对30款芯片、100多种平台进行了常规模型的适配和优化，支持大规模的实时推理。提供模型压缩、模型融合等优化工具和技术，进一步提高模型在部署和推理阶段的性能。

小结

过去几个月时间，国内外已经涌现出大量大模型产品，如今，探索大模型应用落地已经成为当前业界关注的焦点。目前包括商汤科技在内的不少企业已经在多个领域实现应用。此外，无论是大模型的训练还是推理都离不开算力的支持，而在这方面，商汤科技也早有布局。在算力匮乏的当下，大模型+大装置的战略路线对于其后续的发展，也极其有利。