报告由安永与上海赛博网络安全产业创新研究院联合发布，聚焦全球可信 AI 治理与数据安全现状，通过宏观治理格局、企业调研数据、典型案例及未来展望，呈现多维度治理实践与趋势。
⠀
- 核心共识与发展格局
- 全球已形成 “中美双极主导，多强梯队跟进” 的竞争格局，治理共识聚焦透明、安全、伦理、合规四大核心维度。
- 治理路径分为两类：联合国框架（以人权和可持续发展为导向）与全周期技术应用路径（覆盖基础设施、数据使用、产品应用）。
- 主要国家及地区监管框架
- 欧盟：以《人工智能法案》为核心，风险分级监管，统一立法强监管，近期呈现 “监管松绑” 趋势以降低企业合规成本。
- 美国：联邦与州双轨并行，分散化自律监管，特朗普政府倾向行业自治，降低合规门槛以巩固技术优势。
- 中国：国家 – 行业 – 地方三级治理，统筹发展与安全，通过算法备案、大模型备案双机制落地监管，场景化规范覆盖生成式 AI、自动驾驶等领域。
- 日韩：“软硬结合 + 协同治理”，日本侧重软法指导，韩国走 “软法先行、硬法固本” 路径，均强调以人为本。
- 核心风险领域
- 数据安全：贯穿全生命周期，存在过度收集、语料投毒、隐私泄露等风险，2025 年曾出现大模型数据库未设验证导致百万条敏感信息暴露事件。
- 科技伦理：算法歧视、责任归属模糊问题突出，部分企业因招聘 AI 算法排除高龄应聘者被判赔偿。
- 知识产权：训练数据侵权、生成内容权属界定难，某科技巨头因未经授权使用出版商内容训练模型被罚 2.5 亿欧元。
- 供应链风险：地缘政治引发技术制裁、断供脱钩，关键算力芯片、算法框架获取受阻。
- 产业链视角问题
- 上游：数据质量参差不齐、标注标准不统一，算法 “黑箱” 加剧治理难度。
- 中游：多主体责任划分模糊，二次开发风险与基础模型缺陷难以区分。
- 下游：传统数据架构兼容性不足，跨行业应用存在合规冲突。
- 应用与战略现状
- 应用场景：企业管理（81%）、客户服务（60%）、产品研发（50%）渗透率最高，智能问答助手（77%）是最普及的应用类型。
- 模型选择：67% 企业首选开源模型，88% 最看重模型准确性与稳定性，79% 关注数据合规与隐私保护。
- 战略成熟度：仅 12% 企业有明确 AI 战略，59% 已设立或规划可信 AI 治理委员会，治理模式以混合式（46%）为主。
- 核心风险与治理挑战
- 企业最关切风险：数据泄露（65%）、法律合规（42%）、隐私保护（33%）。
- 治理痛点：合规成本高（58%）、技术架构复杂（46%）、缺乏统一行业框架（40%）、治理滞后于技术迭代（40%）。
- 技术防控短板：侧重传统安全延伸（数据加密、身份认证等），对大模型文件安全、AI 物料管理等新型风险防控滞后。
- 资源投入与未来预期
- 预算投入：43% 企业 AI 投入占 IT 总预算不足 5%，仅 7% 占比超 20%，投入相对保守。
- 预期态度：74% 企业对未来 5 年 AI 赋能业务持积极态度，37% 计划增加可信 AI 治理预算。
- 媒体行业标杆：全周期治理体系
- 驱动因素：全球化合规压力、外部 AI 工具接入风险、社会舆论监督。
- 实践路径：四步构建治理体系（树立目标→细分领域→组织制度配套→持续监测），建成三级组织管理与四级制度文件体系。
- 成效：获 ISO/IEC42001 国际认证，识别化解十余项潜在风险。
- 网络安全企业：AI 实时防护体系
- 核心挑战：数据泄露风险、交付风险控制、监管合规压力。
- 实践路径：打造 “三位一体” 防护网，构建 “感知 – 防护 – 治理 – 审计” 全链条架构，拦截 Prompt 注入攻击，实时监控模型调用链。
- 成效：模型异常输出率降低 60%，合规性检查覆盖率 100%。
- AI 科技企业：全生命周期管控
- 治理举措：制定《新业务合规规范》等制度，建立 “设计开发 – 验证试验 – 部署运行 – 维护升级 – 下线删除” 全流程管控。
- 关键措施：语料三级审核、算法交叉测试、模型参数加密存储、分级数据销毁。
- 成效：生成内容安全性指标超 95%，满足合规与社会责任要求。
- 数据治理：跨机构协作加强，分场景治理模式兴起，形成 “合规 – 安全 – 可靠” 的场景化解决方案。
- 技术迭代：AI 智能体驱动自主迭代，伦理算法嵌入实现内生安全，具身智能打破数字空间局限。
- 治理框架：评估机制嵌入全生命周期，构建动态治理闭环，推动专业化治理服务产业发展。
- 安全协同：“AI 赋能安全” 与 “安全护航 AI” 双轮驱动，形成螺旋式增长。
- 全球协作：区域化治理分化为 “监管优先” 与 “创新优先” 模式，国际组织推动多边治理共识。
全球 AI 治理已进入 “共识落地、风险聚焦、实践深化” 阶段，数据安全、伦理合规、知识产权是核心攻坚领域。企业治理呈现 “高探索、低成熟” 特征，需平衡技术创新与风险防控，依托组织架构优化、技术工具升级、制度流程完善构建全周期治理体系。未来，跨机构协作、智能化防护、全球共识凝聚将成为可信 AI 治理的关键方向。
