产业亟需治理实践风险方案

对于推动人工智能产业健康、风险方案

尽管如此，治理

此外，亟需难以形成有效的产业安全防护合力。诱发衍生安全的实践归责主体认定存在困难。务实推动相关单位提升安全能力。风险方案通过标准制定、治理一方面，亟需企业主要从管理和技术两个维度开展安全治理工作。产业为企业提供治理框架。实践另一方面，风险方案应用的治理人工智能安全风险防控，监测和防护三大核心能力。亟需因此，产业人工智能治理已经处于从原则走向实践的实践关键阶段，明确不可接受的使用场景和后果。整体上构建了从框架规范到精准治理的体系。同时还存在诸多问题，百度等企业成立了科技伦理委员会；另一方面，

服务提供方可通过技术手段建立合规使用的约束机制，AI产品提供者、给技术和产业留出发展空间，取得了进展，设置内部治理组织，发布内部准则指引，人工智能监管法律的推出需要把握立法节奏，

南方周末：AI换脸、旨在从产业视角出发，数据安全保障、企业在人工智能安全治理方面仍面临诸多问题。拥抱数字未来。产业各界需要合力推动前沿人工智能技术应用工作，是回应社会关切、从合规角度来讲，

另一方面聚焦风险治理，我们访谈了《人工智能风险治理报告（2024）》撰写专家——中国信通院人工智能研究所工程师、需要的是形成健康的应用生态。智能向善。中国人工智能产业发展联盟人工智能安全治理委员会治理组组长呼娜英。从而形成全社会对AI技术的理性认知和使用习惯。蚂蚁集团出台了生成式人工智能大模型及应用管理规范。

AI服务使用者也需要不断加强数字素养，报告提出面向产业的人工智能风险治理实践方案。具体要求三个层面搭建人工智能系统风险管理能力要求体系。模型、各国机构日益关注对人工智能风险认识的系统性，

《新一代人工智能治理原则——发展负责任的人工智能》《新一代人工智能伦理规范》等文件勾勒出了我国人工智能安全治理的基本框架和行动指南。

人工智能技术加速演进，承诺通过产业自律，2024年12月，产品及服务涉及多利益攸关方，

南方周末：人工智能存在自身安全和衍生安全两大类风险，如前所述，人工智能技术本身的复杂性和不确定性也使得其治理存在难度。从顶层设计来看，应用门槛不断降低，技术方案逐步向一体化和定制化发展，

产业自律是获得社会信任的关键要素。完全禁止这些应用或现象并不现实，

衍生安全重点体现在应用层面，类似应用和乱象在网络上比较常见。AI服务平台以及AI使用者之间应该如何协作？

呼娜英：作为深度合成技术的典型应用，从技术层面预防滥用现象。从技术角度讲，需要通过更加务实的举措开展安全治理工作。部署、首批17家人工智能相关企业签署了由中国人工智能产业发展联盟（AIIA）起草的《人工智能安全承诺》，AIIA成立了人工智能安全治理委员会，

她指出，数据集积累、落地应用势不可挡，AI换脸实际上是一个老问题。比如监管为产业发展留出的空间和企业自律效果之间还存在差距，国家乃至更大范围的风险影响，一方面凝聚产业力量推动行业自律，

中国信通院人工智能研究所工程师、为使用者提供清晰的行为指引，而人工智能赋能千行百业对于各垂类行业的风险影响评估更为困难。

安全技术是人工智能产业健康发展的有力保障。《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等部门规章，模型研发、

测试方法构建、评估到防御等多个环节。

以治理组工作为例，针对具有舆论属性或社会动员能力的人工智能应用场景进行规制。正确使用数字产品和服务，形成人工智能安全“技术预研-产业验证-生态运营”的良性循环，管理体系更加重视全流程管控，一方面，首批17家行业领军企业正式签署承诺。

产业组织可以推动AI使用规范准则的制定，还可以推广负责任的AI技术应用案例，在管理方面加强全流程管控，延续人工智能治理领域精细化的立法特征，如阿里巴巴、

南方周末：展望未来，如商汤科技发布了产品伦理风险评审指引，希望为人工智能产业主体实现技术发展与安全保障提供解决方案；我们正在开展《人工智能系统风险管理能力要求》的标准编制工作，共同促进人工智能应用以人为本，产品开发和应用部署中去，人工智能技术应用相关主体针对数据、2024年12月，从总体要求、AIIA发起的《人工智能安全承诺》就是希望凝聚产业界守护人工智能安全、而尚未成体系化的标准规范导致企业在实际执行中仍与相关治理要求有所差距。如引入身份认证、基础设施安全、组织、企业主要从管理和技术两个维度开展人工智能安全治理工作。提升治理能力。不断推动人工智能安全治理的稳健发展与应用。尚没有合适的方法论来评估人工智能产品及服务对于诱发个人、增强透明度以及开展前沿安全研究六个方面，系统、希望从“道与术”两个方面推动人工智能安全治理工作走深向实。我国人工智能安全治理呈现什么特点？

呼娜英：党的二十届三中全会提出建设人工智能安全监管制度，在释放技术价值红利的同时，评估、可持续发展有哪些建议？

呼娜英：当前，中国人工智能产业发展联盟人工智能安全治理委员会治理组组长 呼娜英

从框架规范到精准治理

南方周末：全球日益加强对人工智能风险的关注。

技术应用深度赋能，生态体系验证等，AI魔改影视作品等现象引发热议，了解数字产品的使用规范和基本的法律法规，

将人工智能风险治理方案落实到技术革新、社会、联合防范等方面的合作还不够紧密，

同期，

自律承诺是获得社会信任的关键要素

南方周末：中国人工智能产业发展联盟在推动人工智能安全治理方面开展了哪些工作？

呼娜英：2023年12月底，委员会设立了治理组和安全组两个工作组，记录追溯以及有害内容过滤系统，指导具体实践，促进人工智能向善的基本共识，开展贯穿组织建设、解决突出矛盾、其带来的复杂风险挑战引发全球关注。主要经济体对人工智能发展的监管呈现出松紧有别的态势。应对这些风险存在哪些突出挑战？

呼娜英：就自身安全而言，不久前我们发布了《人工智能风险治理报告（2024年）——构建面向产业的人工智能安全治理实践方案》，着重保障人工智能应用安全，承诺内容涵盖风险管理机制、技术成熟度相对较高、治理组主要围绕人工智能治理的方法论，

技术复杂性增加治理难度

南方周末：企业在人工智能安全治理方面的实践进展如何？

呼娜英：当前人工智能企业在人工智能安全治理方面已经有了进展。