从”AI造假”到”花生上树”，网络安全宣传周发布治理框架2.0为AI发展铺轨画线

2025年国家网络安全宣传周主论坛正式发布《人工智能安全治理框架》2.0版，为快速发展的人工智能技术划定红线、铺设轨道。这个新版框架新增了人工智能安全风险的分级原则和可信人工智能基本准则，并提出了具体的技术应对和综合治理措施，标志着我国AI安全治理进入精细化、系统化新阶段。

AI双面性：便捷与风险并存

人工智能技术已深度融入日常生活各个场景。从一键美颜的修图工具到变革交通的自动驾驶系统，再到能够解答复杂问题的智能助手，AI正以前所未有的速度改变我们与世界互动的方式。然而，技术的双刃剑效应也日益凸显。

​​AI技术滥用案例​​：

• 利用AI制作”卖惨”短视频博取流量和同情
• 通过深度伪造技术生成虚假内容进行网络诈骗
• 某品牌宣传图出现”花生上树”常识性错误
• 算法偏见导致的不公平决策和歧视

这些现象不仅扰乱网络秩序，更给个人信息安全、社会信任体系乃至国家安全带来新的挑战。如何让每个普通网民都能上好网络安全这门”必修课”，成为数字时代的重要议题。

治理框架升级：为AI发展铺稳轨道

《人工智能安全治理框架》2.0版的发布，回应了当前AI安全治理的迫切需求。与先前版本相比，此次更新具有几个显著特点：

​​风险分级原则​​：
建立AI安全风险等级评估体系，根据不同风险级别采取差异化治理措施。高风险应用需满足更严格的安全标准和监管要求。

​​可信AI准则​​：
明确可信人工智能的基本要求和标准，包括可靠性、可解释性、隐私保护、公平性等多个维度。

​​技术应对措施​​：
提出具体的技术解决方案和标准，为企业开发安全可靠的AI系统提供指导。

​​综合治理机制​​：
强调技术治理、法律规制、伦理规范和社会监督的多维协同，形成治理合力。

行业自律：共建可控可信AI生态

网络安全宣传周期间，《人工智能安全行业自律倡议》正式发布，明确提出以安全为人工智能发展的生命线，推动构建可控、可信、可靠的产业生态。

​​倡议重点内容​​：

• 将安全作为AI产品研发的核心要素
• 加强数据安全和隐私保护
• 提高算法透明度和可解释性
• 避免算法歧视和偏见
• 建立AI安全应急响应机制

​​参与单位广泛性​​：
倡议发起单位涵盖科研院所、互联网头部企业、网络安全厂商、人工智能企业等60余家单位，体现了多方协同治理的理念。

这种行业自律机制是对法律监管的重要补充，有助于形成政府监管、行业自律、企业自治、社会监督的多元共治格局。

全民参与：12387平台启动的意义

在2025年国家网络安全宣传周开幕式上，12387网络安全事件报告平台正式启动。这一平台为公众参与网络安全治理提供了便捷渠道，体现了”网络安全为人民，网络安全靠人民”的理念。

​​平台功能​​：

• 接收网络安全事件报告
• 提供网络安全咨询和帮助
• 开展网络安全知识普及
• 协助处置网络安全事件

​​社会意义​​：
平台的建立不仅提高了网络安全事件的处理效率，更增强了全民网络安全意识，推动形成全社会共同维护网络安全的良好氛围。

高质量发展：以安全为前提的技术创新

“以高水平安全守护高质量发展”是今年网络安全宣传周的主题，也是AI技术发展的基本准则。科技进步不是一场无约束的实验，需要兼顾理性与智慧。

​​平衡发展与安全​​：

• AI技术应用不能仅满足于简单的”一键生成”
• 必须建立在对客观规律的尊重和对专业知识的敬畏之上
• 无视应用和算法安全，即使再便捷的技术也可能”惹祸”
• 需要结合动态及时调整更新防范治理措施

​​促进良性发展​​：
只有构建安全、可信、可控的人工智能发展生态，才能确保”人工智能+”在各个行业落地生根，真正赋能经济社会发展。

国际视角：中国智慧的全球贡献

中国在人工智能安全治理方面的探索和实践，正在为全球人工智能治理贡献中国智慧和力量。《人工智能安全治理框架》2.0版和行业自律倡议的发布，展现了中国在平衡技术创新与安全监管方面的系统思考。

​​中国方案的特点​​：

• 强调发展与安全的平衡
• 注重多方协同治理
• 体现包容审慎监管理念
• 重视国际交流合作

这种治理模式为其他国家特别是发展中国家提供了有益参考，有助于推动建立公平合理的国际AI治理体系。

未来展望：AI安全治理的挑战与机遇

随着AI技术的快速发展，安全治理面临诸多新挑战，同时也带来新的机遇。

​​面临挑战​​：

• AI技术迭代速度快，治理措施需要及时跟进
• 深度伪造等恶意使用技术难以检测和防范
• 国际治理规则尚未形成共识
• 技术鸿沟可能导致治理能力差异

​​发展机遇​​：

• AI技术可用于增强网络安全防护能力
• 促进形成更加开放包容的国际治理体系
• 推动建立更加公平可持续的数字经济模式
• 为全球性问题提供新的解决方案

共建共享网络安全生态

人工智能时代的网络安全治理是一项系统工程，需要政府、企业、社会组织和公民个人共同参与。2025年国家网络安全宣传周及其发布的各项举措，为我们指明了方向。

只有让AI技术发展始终沿着健康、有序的轨道前进，各行各业”人工智能+”的应用场景才会越来越丰富，我们才能确保技术更好地服务于人、造福于人。

网络安全为人民，网络安全靠人民。让我们共同努力，上好人工智能时代的网络安全必修课，以高水平的安全守护高质量发展，共建共享清朗网络空间和美好数字未来。