文章主题：世界人工智能大会, 商汤科技, AI伦理与治理, 生成式人工智能治理
SenseTime
点击蓝字 关注智研君
在7月6日至7月8日期间，第六届世界人工智能大会（WAIC 2023）在上海成功举办了商汤科技“大爱无疆·日日新”人工智能论坛。在这次论坛上，商汤科技副总裁、AI伦理与治理委员会主席张望发表了主题为“拥抱范式变革——探寻AI 2.0时代的‘压舱石’”的演讲，并正式推出了《商汤大模型伦理原则与实践白皮书》（简称“白皮书”）。
在今年的商汤人工智能伦理与治理年度报告中，我们特别携手“上海交通大学计算法学与AI伦理研究中心”，共同制定了一份详尽的白皮书。在该报告中，我们以大模型的发展为背景，重点探讨了生成式人工智能的治理问题。同时，我们也提出了生成式人工智能治理的核心原则，以及一套名为“三维对齐”的科技伦理模式。
图：“三维对齐”科技伦理模式
在实际应用中，白皮书揭示了“商汤日日新 SenseNova”大型模型治理实例，并深入探讨了商汤人工智能治理解决方案的核心组件——“SenseTrust——商汤可信AI基础设施”。
AI范式变革，治理面临新挑战
在2022年，生成式人工智能工具如ChatGPT迅速风靡全球，这标志着人类正朝着通用人工智能（AGI）的时代迈进，这是一个具有历史意义的节点。这一技术的出现，也带来了人工智能领域的新范式，并引发了人工智能风险范式的转变。然而，如何在保证模型性能的同时，实现安全能力的提升，已经成为我国人工智能领域面临的一项重大挑战。
图：人工智能领域的范式变革
不仅各国政府加快推进人工智能相关政策制定步伐，业界也在积极呼吁加强人工智能监管。以生成式人工智能治理为焦点的人工智能治理已经成为一项全球共同的紧迫议程。白皮书总结了生成式人工智能治理的七大核心原则：保障数据质量和隐私安全、防止虚假信息和不良内容、尊重版权和知识产权、保障系统安全和鲁棒、增强可解释性和透明性、合乎道德伦理、加强可问责性。
商汤“SenseTrust”工具体系，推动可信AI产业生态
面对 AI2.0 阶段的风险挑战，加强全行业、全社会的人工智能风险治理能力已成为全球各方亟待解决的紧迫命题。商汤正式推出“SenseTrust”——商汤可信人工智能基础设施，并将持续通过“商汤 AI 安全治理开放平台”等多种形式，为行业提供 AI 治理公益技术服务，推动建设安全可信的人工智能产业生态。
图：“SenseTrust”——商汤可信 AI 基础设施
在数据层面，商汤“SenseTrust”能够提供从数据脱敏、数据去毒、数据合规审查及偏见评估等治理工具。例如，在模型训练数据的预处理环节，“SenseTrust”提供的数据去毒工具能够检测数据来源中是否包含带有后门、扰乱的有毒数据，并提供去毒方案。针对显式、隐式等不同形式的“毒素”检测率大于95%，结合数据清洗与对抗防御等方法，能够实现有效去毒。
在模型层面，商汤“SenseTrust”基于自研的模型体检系列平台，能够针对传统“小模型”、生成式“大模型”，以及基础模型提供标准化和定制化的模型评测能力。针对判别式模型，可就能够面向活体识别、图像分类、目标检测等商业化需求提供一键式评测；针对生成式模型，商汤“SenseTrust”构建了百万量级的测试数据集，覆盖三十余类伦理和安全测评维度，可对对抗安全、鲁棒安全、后门安全、可解释性和公平性评测。为进一步提升模型的风险防御能力，商汤“SenseTrust”还能够提供“AI防火墙”，从源头过滤对抗样本，综合检出率达到98%。
在应用层面，商汤在涉及数据保护、数字取证及伪造检测等技术领域有着深厚的积累，并逐步开发了基于生成、鉴伪和溯源三位一体的综合解决方案。例如，针对各方颇为关注的AIGC相关确权溯源和鉴伪问题，“SenseTrust”为此开发了数字水印解决方案，可将特定信息嵌入到数字载体中，不影响载体的使用价值，也不易被人察觉，只有通过特定的解码器和专属密钥才能提取，能够支持多模态数据。数字水印技术已服务于“商汤秒画SenseMirage”、“商汤如影SenseAvatar”等多个产品，以及内容创作、大数据等领域的客户。
图：“SenseTrust”治理工具应用展示——溯源鉴伪
目前，商汤科技已将“SenseTrust”综合鉴伪解决方案引入多家银行的安全系统之中。这一方案成功地实现了对各种灰黑产攻击的拦截，其成功率超过了同行业的同类产品20%以上，有效地阻止了灰黑产实施的身份盗取和支付盗刷等网络诈骗行为。除此之外，包括模型体检、数字水印，以及主动投毒保护等相关技术，也已在“商汤AI安全治理开放平台”（http://aisafe.sensetime.com/home）上对外公开。
AI治理的商汤倡议：保持发展和治理的“动态平衡”
当前，生成式人工智能的发展仍处于早期阶段，在全球范围内，生成式人工智能治理已经成为一个重要议题。商汤在此诚挚地呼吁各方在推动人工智能发展与治理的过程中应保持“动态平衡”，无论是技术发展本身、还是对技术的风险治理，都应避免陷入“失控的竞赛”之中。为此，商汤愿就生成式人工智能治理的推进提出四点倡议：一是准确定义问题，聚焦现实风险；二是加大治理基础设施建设投入；三是加强人工智能治理国际合作；四是加强全社会治理能力建设。
图：商汤科技关于生成式人工智能治理的倡议
商汤科技期望与全球各利益相关方携手合作，共同推进负责任且具有可评估性的人工智能发展，以期使人工智能更好地造福人类社会，实现更大的突破。
更多详情，欢迎大家点击左下角“阅读全文”，浏览《商汤大模型伦理原则与实践白皮书》全文内容。
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
