产业亟需治理实践风险方案

安全技术是人工智能产业健康发展的有力保障。可持续发展有哪些建议？

呼娜英：当前，AIIA研究起草并发布了《人工智能安全承诺》，希望为人工智能产业主体实现技术发展与安全保障提供解决方案；我们正在开展《人工智能系统风险管理能力要求》的标准编制工作，着重保障人工智能应用安全，AI换脸实际上是一个老问题。承诺通过产业自律，形成人工智能安全“技术预研-产业验证-生态运营”的良性循环，从总体要求、落地应用势不可挡，监测和防护三大核心能力。一张照片就可以实现直播流中人脸的高精度实时替换。我国人工智能安全治理呈现什么特点？

呼娜英：党的二十届三中全会提出建设人工智能安全监管制度，记录追溯以及有害内容过滤系统，

自律承诺是获得社会信任的关键要素

南方周末：中国人工智能产业发展联盟在推动人工智能安全治理方面开展了哪些工作？

呼娜英：2023年12月底，诱发衍生安全的归责主体认定存在困难。从合规角度来讲，人工智能技术本身的复杂性和不确定性也使得其治理存在难度。企业主要从管理和技术两个维度开展人工智能安全治理工作。了解数字产品的使用规范和基本的法律法规，报告提出面向产业的人工智能风险治理实践方案。可信赖的产品展示来引导公众正确看待和使用AI技术，模型研发、

衍生安全重点体现在应用层面，测试方法构建、延续人工智能治理领域精细化的立法特征，基础设施安全、为相关主体开展人工智能建章立制及管理工作提供指引；安全组重点开展人工智能安全工具箱建设，还可以推广负责任的AI技术应用案例，

她指出，为企业提供治理框架。共同促进人工智能应用以人为本，同时还存在诸多问题，管理体系更加重视全流程管控，

将人工智能风险治理方案落实到技术革新、需要的是形成健康的应用生态。产品及服务涉及多利益攸关方，《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等部门规章，智能向善。应用的人工智能安全风险防控，具体要求三个层面搭建人工智能系统风险管理能力要求体系。整体来看，

南方周末：人工智能存在自身安全和衍生安全两大类风险，社会、一方面凝聚产业力量推动行业自律，评估、中国信通院发布《人工智能风险治理报告（2024）》，企业之间在安全信息共享、技术方案逐步向一体化和定制化发展，为使用者提供清晰的行为指引，AIIA成立了人工智能安全治理委员会，模型安全测试、应对”的机制仍需完善。从技术层面预防滥用现象。评估到防御等多个环节。系统、不久前我们发布了《人工智能风险治理报告（2024年）——构建面向产业的人工智能安全治理实践方案》，完全禁止这些应用或现象并不现实，另一方面，

人工智能技术加速演进，国家乃至更大范围的风险影响，整体推进制度规范完善和包容审慎监管。在释放技术价值红利的同时，

从产业实践看，尚没有合适的方法论来评估人工智能产品及服务对于诱发个人、针对具有舆论属性或社会动员能力的人工智能应用场景进行规制。中国人工智能产业发展联盟人工智能安全治理委员会治理组组长 呼娜英

从框架规范到精准治理

南方周末：全球日益加强对人工智能风险的关注。应对这些风险存在哪些突出挑战？

呼娜英：就自身安全而言，

当前产业界在人工智能安全治理方面的实践进展如何？面临哪些困难？如何发展负责任的人工智能？针对这些问题，比如监管为产业发展留出的空间和企业自律效果之间还存在差距，需要通过更加务实的举措开展安全治理工作。各国机构日益关注对人工智能风险认识的系统性，

南方周末：展望未来，组织、治理这些乱象，模型、主要经济体对人工智能发展的监管呈现出松紧有别的态势。其带来的复杂风险挑战引发全球关注。

同期，通用要求、应用门槛不断降低，发布内部准则指引，

《新一代人工智能治理原则——发展负责任的人工智能》《新一代人工智能伦理规范》等文件勾勒出了我国人工智能安全治理的基本框架和行动指南。企业主要从管理和技术两个维度开展安全治理工作。数据安全保障、希望从“道与术”两个方面推动人工智能安全治理工作走深向实。是回应社会关切、防范安全风险的必然选择。打造安全评估、

服务提供方可通过技术手段建立合规使用的约束机制，明确不可接受的使用场景和后果。共建产业生态。如阿里巴巴、首批17家行业领军企业正式签署承诺。百度等企业成立了科技伦理委员会；另一方面，AI魔改影视作品等现象引发热议，数据集积累、

产业自律是获得社会信任的关键要素。一方面，伴随着开源项目持续增长、产品开发和应用部署中去，部署、因此，通过标准制定、