重磅发布！《人工智能安全治理框架》1.0版来了

重磅发布！《人工智能安全治理框架》1.0版来了

在2024年的金秋九月，全国网络安全标准化技术委员会隆重推出了《人工智能安全治理框架》的1.0版本，近年来，人工智能技术犹如一股势不可挡的浪潮，席卷全球，AI绘画、AI写作等创新应用正以前所未有的速度融入人们的日常生活，极大地提高了创作效率，同时也让普通人能够轻松涉足专业级别的内容创作。然而，技术进步的双刃剑效应不容忽视，随之而来的安全挑战与伦理考量成为了社会关注的焦点。为此，《人工智能安全治理框架》应运而生，旨在为人工智能的发展划定安全边界，确保其在可控与合规的轨道上前行。

人工智能安全治理框架主要由四个关键部分组成：安全治理原则、安全风险分析、技术与管理应对措施，以及安全开发应用指南。

首先，治理原则部分详细阐述了人工智能安全治理的核心理念和基本原则。该框架强调了“包容审慎、确保安全，风险导向、敏捷治理，技管结合、协同应对，开放合作、共治共享”的原则。它明确指出，应秉持共同、综合、合作、可持续的安全观，坚持发展与安全并重，以促进人工智能的创新发展为首要任务，同时以有效防范和化解人工智能安全风险为出发点和落脚点。通过构建多方参与、技术与管理相结合、分工协作的治理机制，压实相关主体的安全责任，打造全过程、全要素的治理链条，培育安全、可靠、公平、透明的人工智能技术研发和应用生态，推动人工智能的健康发展和规范应用，切实维护国家主权、安全和发展利益，保障公民、法人和其他组织的合法权益，确保人工智能技术能够真正造福人类。

其次，框架对人工智能可能面临的安全风险进行了全面梳理和分类，包括内生安全风险和应用安全风险。内生安全风险涵盖了偏见歧视、训练数据被恶意篡改等风险；而应用安全风险则包括人工智能技术被用于违法犯罪活动，加剧“信息茧房”效应等风险。

第三部分，针对不同类型的安全风险，从技术和管理两个层面提出了防范和应对措施。针对内生安全风险，提出了安全开发运维、输出内容标识等技术手段，并推动负责任的研发应用体系、供应链安全保障等管理措施；针对应用安全风险，提出了安全防护机制、最终用途追溯等技术手段，并实施分类分级管理、人才培养等管理措施。

最后，第四部分提出了人工智能安全开发应用的指引，明确了人工智能模型算法研发者、服务提供者、重点领域使用者和社会公众等不同主体在人工智能安全方面的指引规范。

关于我们：算法备案超过200个项目经验，国内算法备案第一梯队，大模型备案也有多个成功案例，欢迎沟通交流。