报告丨2025可信人工智能治理白皮书

·聚焦:人工智能、芯片等行业

欢迎各位客官关注、转发

人工智能发展与监管概述：全球人工智能市场预计将快速增长，各国积极制定政策立法。欧盟《人工智能法案》基于风险分级监管；美国采取特定行业方法，多层面出台法案与指南；中国初步建立法律框架，众多规范文件发挥监管作用。“可信人工智能”被定义为技术可靠、安全、公正、透明且可问责的系统。

可信人工智能原则：G20、欧盟等提出人工智能应遵循包容性增长、尊重法治人权、透明度等原则。安永认为可信人工智能应具备问责性、合规性、可解释性、公平性等，这些原则有助于构建可信人工智能体系，推动技术与社会和谐发展。

关键问题剖析：人工智能面临算法黑箱与信息茧房、算法偏见、数据安全、内生安全和科技伦理等问题。网约车平台算法透明度不足，电商招聘算法存在偏见，数据安全事件频发，这些问题影响用户体验、公平性与社会稳定，对企业合规应用带来挑战。

企业级AI合规要求：企业需满足资质监管、算法合规和内容合规要求。资质包括基础资质与特殊资质；算法合规涵盖备案、评估和透明性要求；内容合规涉及生成内容审核、标识及投诉举报机制，以确保企业AI应用合法合规。

人工智能风险治理：风险治理架构从企业、创新和市场三个层面发挥作用，指导企业数据管理、模型开发等，推动创新并维护市场公平。生命周期风险治理需在各阶段进行风险管理左移、采用敏捷管理模式和审慎评估监控。人员风险治理要对员工培训、监督并促进跨部门协作。

企业AI治理进阶工具：ISO 42001为组织提供AI治理框架，具有多体系融合、多国法规符合性等价值。可信AI治理等级标识分基础级、提高级和体系级，安永提供相关咨询服务，助力企业提升AI治理水平。

行业洞察与案例：汽车、医药、零售、服务等行业积极应用人工智能，但面临技术、数据、伦理等挑战。各行业通过参考国际标准和框架，搭建人工智能管理体系。互联网平台公司和汽车公司的案例展示了AI技术应用及模型管理的实践。

以下是《2025可信人工智能治理白皮书》部分内容：

公众号后台回复《2025可信人工智能治理白皮书》，即可获得完整报告。